ChatYI

这将帮助您开始使用 Yi 聊天模型。有关所有 ChatYi 功能和配置的详细文档，请访问 API 参考。

01.AI，由李开复博士创立，是一家处于 AI 2.0 前沿的全球公司。他们提供尖端的大型语言模型，包括 Yi 系列，参数范围从 6B 到数百亿。01.AI 还提供多模态模型、开放 API 平台以及开源选项，如 Yi-34B/9B/6B 和 Yi-VL。

概述

集成细节

类别	包	本地	可序列化	JS 支持	包下载量	包最新版本
ChatYi	langchain_community	✅	❌	❌

模型特性

工具调用	结构化输出	JSON 模式	图像输入	音频输入	视频输入	令牌级流式传输	原生异步	令牌使用	对数概率
❌	❌	❌	✅	❌	❌	✅	❌	✅	❌

设置

要访问 ChatYi 模型，您需要创建一个 01.AI 账户，获取一个 API 密钥，并安装 langchain_community 集成包。

凭证

前往 01.AI 注册 01.AI 并生成 API 密钥。完成后设置 YI_API_KEY 环境变量：

import getpass
import os

os.environ["YI_API_KEY"] = getpass.getpass("Enter your Yi API key: ")

如果您想要自动跟踪模型调用，可以通过取消注释以下内容来设置您的 LangSmith API 密钥：

# os.environ["LANGSMITH_API_KEY"] = getpass.getpass("Enter your LangSmith API key: ")
# os.environ["LANGSMITH_TRACING"] = "true"

安装

LangChain ModuleName 集成位于 langchain_community 包中：

%pip install -qU langchain_community

实例化

现在我们可以实例化我们的模型对象并生成聊天补全：

• TODO: 使用相关参数更新模型实例化。

from langchain_community.chat_models.yi import ChatYi

llm = ChatYi(
    model="yi-large",
    temperature=0,
    timeout=60,
    yi_api_base="https://api.01.ai/v1/chat/completions",
    # other params...
)

调用

from langchain_core.messages import HumanMessage, SystemMessage

messages = [
    SystemMessage(content="You are an AI assistant specializing in technology trends."),
    HumanMessage(
        content="What are the potential applications of large language models in healthcare?"
    ),
]

ai_msg = llm.invoke(messages)
ai_msg

链接

我们可以 链式 使用一个提示模板，如下所示：

from langchain_core.prompts import ChatPromptTemplate

prompt = ChatPromptTemplate.from_messages(
    [
        (
            "system",
            "You are a helpful assistant that translates {input_language} to {output_language}.",
        ),
        ("human", "{input}"),
    ]
)

chain = prompt | llm
chain.invoke(
    {
        "input_language": "English",
        "output_language": "German",
        "input": "I love programming.",
    }
)

AIMessage(content='Ich liebe das Programmieren.', response_metadata={'token_usage': {'completion_tokens': 8, 'prompt_tokens': 33, 'total_tokens': 41}, 'model': 'yi-large'}, id='run-daa3bc58-8289-4d72-a24e-80622fa90d6d-0')

API 参考

有关所有 ChatYi 功能和配置的详细文档，请访问 API 参考： https://api.python.langchain.com/en/latest/chat_models/langchain_community.chat_models.yi.ChatYi.html

相关

• 聊天模型 概念指南
• 聊天模型 操作指南