rag-vectara-multiquery

此模板执行与 vectara 的多查询 RAG。

环境设置

设置 OPENAI_API_KEY 环境变量以访问用于多查询处理的 OpenAI 模型。

此外，请确保设置以下环境变量：

要使用此软件包，您首先需要安装 LangChain CLI：

pip install -U langchain-cli

要创建一个新的 LangChain 项目并将其作为唯一的软件包安装，您可以执行：

langchain app new my-app --package rag-vectara-multiquery

如果您想将其添加到现有项目中，只需运行：

langchain app add rag-vectara-multiquery

并将以下代码添加到您的 server.py 文件中：

from rag_vectara import chain as rag_vectara_chain

add_routes(app, rag_vectara_chain, path="/rag-vectara-multiquery")

（可选）现在让我们配置 LangSmith。 LangSmith 将帮助我们跟踪、监控和调试 LangChain 应用程序。您可以在这里注册 LangSmith。如果您没有访问权限，可以跳过此部分。

export LANGCHAIN_TRACING_V2=true
export LANGCHAIN_API_KEY=<your-api-key>
export LANGCHAIN_PROJECT=<your-project>  # 如果未指定，默认为 "vectara-demo"

如果您在此目录中，则可以直接启动 LangServe 实例：

langchain serve

这将启动 FastAPI 应用程序，服务器在本地运行，地址为 http://localhost:8000

我们可以通过代码访问模板：

from langserve.client import RemoteRunnable

runnable = RemoteRunnable("http://localhost:8000/rag-vectara-multiquery")