Azure AI 数据
Azure AI Studio 提供将数据资产上传到云存储并从以下来源注册现有数据资产的能力:
Microsoft OneLake
Azure Blob Storage
Azure Data Lake gen 2
这种方法相较于 AzureBlobStorageContainerLoader
和 AzureBlobStorageFileLoader
的优势在于身份验证无缝处理云存储。您可以使用 基于身份 的数据访问控制或 基于凭证 的数据访问控制(例如 SAS 令牌、帐户密钥)。在基于凭证的数据访问情况下,您无需在代码中指定秘密或设置密钥库 - 系统会为您处理这些。
本笔记本介绍如何从 AI Studio 的数据资产加载文档对象。
%pip install --upgrade --quiet azureml-fsspec, azure-ai-generative
from azure.ai.resources.client import AIClient
from azure.identity import DefaultAzureCredential
from langchain_community.document_loaders import AzureAIDataLoader
# 创建与您的项目的连接
client = AIClient(
credential=DefaultAzureCredential(),
subscription_id="<subscription_id>",
resource_group_name="<resource_group_name>",
project_name="<project_name>",
)
# 获取数据资产的最新版本
data_asset = client.data.get(name="<data_asset_name>", label="latest")
# 加载数据资产
loader = AzureAIDataLoader(url=data_asset.path)
loader.load()
[Document(page_content='Lorem ipsum dolor sit amet.', lookup_str='', metadata={'source': '/var/folders/y6/8_bzdg295ld6s1_97_12m4lr0000gn/T/tmpaa9xl6ch/fake.docx'}, lookup_index=0)]
指定 glob 模式
您还可以指定 glob 模式,以便更精细地控制要加载的文件。在下面的示例中,仅会加载扩展名为 pdf
的文件。
loader = AzureAIDataLoader(url=data_asset.path, glob="*.pdf")
loader.load()
[Document(page_content='Lorem ipsum dolor sit amet.', lookup_str='', metadata={'source': '/var/folders/y6/8_bzdg295ld6s1_97_12m4lr0000gn/T/tmpujbkzf_l/fake.docx'}, lookup_index=0)]