Skip to main content

SparkLLM 聊天

SparkLLM 聊天模型 API 由 iFlyTek 提供。有关更多信息,请参见 iFlyTek 开放平台

基本用法

"""For basic init and call"""
from langchain_community.chat_models import ChatSparkLLM
from langchain_core.messages import HumanMessage

chat = ChatSparkLLM(
spark_app_id="<app_id>", spark_api_key="<api_key>", spark_api_secret="<api_secret>"
)
message = HumanMessage(content="Hello")
chat([message])
AIMessage(content='Hello! How can I help you today?')
  • iFlyTek SparkLLM API 控制台 获取 SparkLLM 的 app_id、api_key 和 api_secret(更多信息,请参见 iFlyTek SparkLLM 介绍),然后设置环境变量 IFLYTEK_SPARK_APP_IDIFLYTEK_SPARK_API_KEYIFLYTEK_SPARK_API_SECRET,或者像上面的示例一样在创建 ChatSparkLLM 时传递参数。

用于 ChatSparkLLM 的流式传输

chat = ChatSparkLLM(
spark_app_id="<app_id>",
spark_api_key="<api_key>",
spark_api_secret="<api_secret>",
streaming=True,
)
for chunk in chat.stream("Hello!"):
print(chunk.content, end="")
Hello! How can I help you today?

对于 v2

"""For basic init and call"""
from langchain_community.chat_models import ChatSparkLLM
from langchain_core.messages import HumanMessage

chat = ChatSparkLLM(
spark_app_id="<app_id>",
spark_api_key="<api_key>",
spark_api_secret="<api_secret>",
spark_api_url="wss://spark-api.xf-yun.com/v2.1/chat",
spark_llm_domain="generalv2",
)
message = HumanMessage(content="Hello")
chat([message])

相关


此页面是否有帮助?


您还可以留下详细的反馈 在 GitHub 上