SparkLLM
SparkLLM 是由科大讯飞自主研发的大规模认知模型。 它通过学习大量的文本、代码和图像,具备跨领域的知识和语言理解能力。 它能够基于自然对话理解和执行任务。
前提条件
- 从 iFlyTek SparkLLM API 控制台 获取 SparkLLM 的 app_id、api_key 和 api_secret(更多信息,请参见 iFlyTek SparkLLM 介绍),然后设置环境变量
IFLYTEK_SPARK_APP_ID
、IFLYTEK_SPARK_API_KEY
和IFLYTEK_SPARK_API_SECRET
,或在创建ChatSparkLLM
时传递参数,如上面的示例所示。
使用 SparkLLM
import os
os.environ["IFLYTEK_SPARK_APP_ID"] = "app_id"
os.environ["IFLYTEK_SPARK_API_KEY"] = "api_key"
os.environ["IFLYTEK_SPARK_API_SECRET"] = "api_secret"
from langchain_community.llms import SparkLLM
# 加载模型
llm = SparkLLM()
res = llm.invoke("What's your name?")
print(res)
/Users/liugddx/code/langchain/libs/core/langchain_core/_api/deprecation.py:117: LangChainDeprecationWarning: The function `__call__` was deprecated in LangChain 0.1.7 and will be removed in 0.2.0. Use invoke instead.
warn_deprecated(
``````output
我的名字是 iFLYTEK Spark。今天我能为您提供什么帮助?
res = llm.generate(prompts=["hello!"])
res
LLMResult(generations=[[Generation(text='Hello! How can I assist you today?')]], llm_output=None, run=[RunInfo(run_id=UUID('d8cdcd41-a698-4cbf-a28d-e74f9cd2037b'))])
for res in llm.stream("foo:"):
print(res)
Hello! How can I assist you today?