Skip to main content

OpenAI 适配器(旧版)

请确保 OpenAI 库版本低于 1.0.0;否则,请参考更新的文档 OpenAI 适配器

很多人开始使用 OpenAI,但希望探索其他模型。LangChain 与许多模型提供商的集成使这一点变得容易。虽然 LangChain 自己有消息和模型 API,但我们也尽可能简化了探索其他模型的过程,通过暴露适配器将 LangChain 模型适配到 OpenAI API。

目前,这仅处理输出,不返回其他信息(令牌计数、停止原因等)。

import openai
from langchain_community.adapters import openai as lc_openai

ChatCompletion.create

messages = [{"role": "user", "content": "hi"}]

原始 OpenAI 调用

result = openai.ChatCompletion.create(
messages=messages, model="gpt-3.5-turbo", temperature=0
)
result["choices"][0]["message"].to_dict_recursive()
{'role': 'assistant', 'content': 'Hello! How can I assist you today?'}

LangChain OpenAI 包装调用

lc_result = lc_openai.ChatCompletion.create(
messages=messages, model="gpt-3.5-turbo", temperature=0
)
lc_result["choices"][0]["message"]
{'role': 'assistant', 'content': 'Hello! How can I assist you today?'}

更换模型提供者

lc_result = lc_openai.ChatCompletion.create(
messages=messages, model="claude-2", temperature=0, provider="ChatAnthropic"
)
lc_result["choices"][0]["message"]
{'role': 'assistant', 'content': ' Hello!'}

ChatCompletion.stream

原始 OpenAI 调用

for c in openai.ChatCompletion.create(
messages=messages, model="gpt-3.5-turbo", temperature=0, stream=True
):
print(c["choices"][0]["delta"].to_dict_recursive())
{'role': 'assistant', 'content': ''}
{'content': 'Hello'}
{'content': '!'}
{'content': ' How'}
{'content': ' can'}
{'content': ' I'}
{'content': ' assist'}
{'content': ' you'}
{'content': ' today'}
{'content': '?'}
{}

LangChain OpenAI 包装调用

for c in lc_openai.ChatCompletion.create(
messages=messages, model="gpt-3.5-turbo", temperature=0, stream=True
):
print(c["choices"][0]["delta"])
{'role': 'assistant', 'content': ''}
{'content': 'Hello'}
{'content': '!'}
{'content': ' How'}
{'content': ' can'}
{'content': ' I'}
{'content': ' assist'}
{'content': ' you'}
{'content': ' today'}
{'content': '?'}
{}

更换模型提供者

for c in lc_openai.ChatCompletion.create(
messages=messages,
model="claude-2",
temperature=0,
stream=True,
provider="ChatAnthropic",
):
print(c["choices"][0]["delta"])
{'role': 'assistant', 'content': ' Hello'}
{'content': '!'}
{}

此页面是否有帮助?


您还可以留下详细的反馈 在 GitHub 上