AWS DynamoDB
Amazon AWS DynamoDB 是一个完全托管的
NoSQL
数据库服务,提供快速且可预测的性能,并具备无缝的可扩展性。
本笔记本介绍如何使用 DynamoDB
存储聊天消息历史记录,使用 DynamoDBChatMessageHistory
类。
设置
首先确保您已正确配置AWS CLI。然后确保您已安装langchain-community
包,因此我们需要安装它。我们还需要安装boto3
包。
pip install -U langchain-community boto3
设置LangSmith以获得最佳的可观察性也是有帮助的(但不是必需的)
# os.environ["LANGCHAIN_TRACING_V2"] = "true"
# os.environ["LANGCHAIN_API_KEY"] = getpass.getpass()
from langchain_community.chat_message_histories import (
DynamoDBChatMessageHistory,
)
创建表
现在,创建 DynamoDB
表,我们将在其中存储消息:
import boto3
# Get the service resource.
dynamodb = boto3.resource("dynamodb")
# Create the DynamoDB table.
table = dynamodb.create_table(
TableName="SessionTable",
KeySchema=[{"AttributeName": "SessionId", "KeyType": "HASH"}],
AttributeDefinitions=[{"AttributeName": "SessionId", "AttributeType": "S"}],
BillingMode="PAY_PER_REQUEST",
)
# Wait until the table exists.
table.meta.client.get_waiter("table_exists").wait(TableName="SessionTable")
# Print out some data about the table.
print(table.item_count)
0
DynamoDBChatMessageHistory
history = DynamoDBChatMessageHistory(table_name="SessionTable", session_id="0")
history.add_user_message("hi!")
history.add_ai_message("whats up?")
history.messages
[HumanMessage(content='hi!'), AIMessage(content='whats up?')]
DynamoDBChatMessageHistory 与自定义端点 URL
有时指定连接到 AWS 端点的 URL 是很有用的。例如,当您在本地使用 Localstack 时。在这种情况下,您可以通过构造函数中的 endpoint_url
参数指定 URL。
history = DynamoDBChatMessageHistory(
table_name="SessionTable",
session_id="0",
endpoint_url="http://localhost.localstack.cloud:4566",
)
DynamoDBChatMessageHistory 与复合键
DynamoDBChatMessageHistory 的默认键是 {"SessionId": self.session_id}
, 但您可以根据您的表设计进行修改。
主键名称
您可以通过在构造函数中传递 primary_key_name 值来修改主键,从而得到以下结果:
{self.primary_key_name: self.session_id}
复合键
在使用现有的 DynamoDB 表时,您可能需要将键结构从默认值修改为包含排序键的结构。为此,您可以使用 key
参数。
传递一个值给 key 将覆盖 primary_key 参数,结果键结构将是传递的值。
composite_table = dynamodb.create_table(
TableName="CompositeTable",
KeySchema=[
{"AttributeName": "PK", "KeyType": "HASH"},
{"AttributeName": "SK", "KeyType": "RANGE"},
],
AttributeDefinitions=[
{"AttributeName": "PK", "AttributeType": "S"},
{"AttributeName": "SK", "AttributeType": "S"},
],
BillingMode="PAY_PER_REQUEST",
)
# 等待直到表存在。
composite_table.meta.client.get_waiter("table_exists").wait(TableName="CompositeTable")
# 打印一些关于表的数据。
print(composite_table.item_count)
0
my_key = {
"PK": "session_id::0",
"SK": "langchain_history",
}
composite_key_history = DynamoDBChatMessageHistory(
table_name="CompositeTable",
session_id="0",
endpoint_url="http://localhost.localstack.cloud:4566",
key=my_key,
)
composite_key_history.add_user_message("hello, composite dynamodb table!")
composite_key_history.messages
[HumanMessage(content='hello, composite dynamodb table!')]
链接
我们可以轻松地将此消息历史类与 LCEL Runnables 结合起来
为此,我们需要使用 OpenAI,因此我们需要安装它
from langchain_core.prompts import ChatPromptTemplate, MessagesPlaceholder
from langchain_core.runnables.history import RunnableWithMessageHistory
from langchain_openai import ChatOpenAI
prompt = ChatPromptTemplate.from_messages(
[
("system", "You are a helpful assistant."),
MessagesPlaceholder(variable_name="history"),
("human", "{question}"),
]
)
chain = prompt | ChatOpenAI()
chain_with_history = RunnableWithMessageHistory(
chain,
lambda session_id: DynamoDBChatMessageHistory(
table_name="SessionTable", session_id=session_id
),
input_messages_key="question",
history_messages_key="history",
)
# This is where we configure the session id
config = {"configurable": {"session_id": "<SESSION_ID>"}}
chain_with_history.invoke({"question": "Hi! I'm bob"}, config=config)
AIMessage(content='Hello Bob! How can I assist you today?')
chain_with_history.invoke({"question": "Whats my name"}, config=config)
AIMessage(content='Your name is Bob! Is there anything specific you would like assistance with, Bob?')