Oracle Cloud Infrastructure (OCI)

与 Oracle Cloud Infrastructure 相关的 LangChain 集成。

OCI 生成性 AI

Oracle Cloud Infrastructure (OCI) 生成性 AI 是一项完全托管的服务，提供一套最先进的、可定制的大型语言模型 (LLMs)，涵盖广泛的用例，并通过单一 API 提供服务。 使用 OCI 生成性 AI 服务，您可以访问现成的预训练模型，或根据自己的数据在专用 AI 集群上创建和托管自己微调的自定义模型。

要使用，您应安装最新的 oci python SDK 和 langchain_community 包。

pip install -U oci langchain-community

查看 聊天、完整 和 嵌入 使用示例。

from langchain_community.chat_models import ChatOCIGenAI

from langchain_community.llms import OCIGenAI

from langchain_community.embeddings import OCIGenAIEmbeddings

OCI 数据科学模型部署端点

OCI 数据科学 是一个 完全托管且无服务器的平台，适用于数据科学团队。使用 OCI 数据科学 平台，您可以构建、训练和管理机器学习模型，然后将它们 部署为 OCI 模型部署端点，使用 OCI 数据科学模型部署服务。

如果您使用 VLLM 或 TGI 框架部署了 LLM，您可以使用 OCIModelDeploymentVLLM 或 OCIModelDeploymentTGI 类与其交互。

要使用，请确保安装最新的 oracle-ads python SDK。

pip install -U oracle-ads

请参见 使用示例。

from langchain_community.llms import OCIModelDeploymentVLLM

from langchain_community.llms import OCIModelDeploymentTGI