Skip to main content

Remembrall

本页面介绍如何在 LangChain 中使用 Remembrall 生态系统。

什么是 Remembrall?

Remembrall 为您的语言模型提供长期记忆、增强生成检索和完全可观察性,只需几行代码。

Remembrall 仪表板的屏幕截图,显示请求统计和模型交互。

它作为您 OpenAI 调用之上的轻量级代理工作,简单地在运行时用收集到的相关事实增强聊天调用的上下文。

设置

要开始,请在 Remembrall 平台上 使用 Github 登录 并复制您的 API 密钥

您通过修改后的 openai_api_base(见下文)和 Remembrall API 密钥发送的任何请求将自动在 Remembrall 仪表板中进行跟踪。您 从不 需要与我们的平台共享您的 OpenAI 密钥,并且这些信息 从不 会被 Remembrall 系统存储。

为此,我们需要安装以下依赖项:

pip install -U langchain-openai

启用长期记忆

除了通过 x-gp-api-key 设置 openai_api_base 和 Remembrall API 密钥外,您还应该指定一个 UID 以维护记忆。这个 UID 通常是一个唯一的用户标识符(如电子邮件)。

from langchain_openai import ChatOpenAI
chat_model = ChatOpenAI(openai_api_base="https://remembrall.dev/api/openai/v1",
model_kwargs={
"headers":{
"x-gp-api-key": "remembrall-api-key-here",
"x-gp-remember": "[email protected]",
}
})

chat_model.predict("My favorite color is blue.")
import time; time.sleep(5) # wait for system to save fact via auto save
print(chat_model.predict("What is my favorite color?"))

启用检索增强生成

首先,在 Remembrall dashboard 中创建文档上下文。粘贴文档文本或上传要处理的 PDF 文档。保存文档上下文 ID,并按如下所示插入。

from langchain_openai import ChatOpenAI
chat_model = ChatOpenAI(openai_api_base="https://remembrall.dev/api/openai/v1",
model_kwargs={
"headers":{
"x-gp-api-key": "remembrall-api-key-here",
"x-gp-context": "document-context-id-goes-here",
}
})

print(chat_model.predict("This is a question that can be answered with my document."))

此页面是否有帮助?


您还可以留下详细的反馈 在 GitHub 上