John Snow Labs
John Snow Labs NLP与LLM生态系统包括用于大规模最先进AI的软件库、负责任的AI、无代码AI,以及访问超过20,000个医疗、法律、金融等领域的模型。
模型通过nlp.load加载,Spark会话在后台通过nlp.start()启动。 有关所有24,000+模型,请参见John Snow Labs模型中心
设置
%pip install --upgrade --quiet johnsnowlabs
# 如果您拥有企业许可证,可以运行此命令以安装企业功能
# from johnsnowlabs import nlp
# nlp.install()
示例
from langchain_community.embeddings.johnsnowlabs import JohnSnowLabsEmbeddings
初始化 Johnsnowlabs Embeddings 和 Spark 会话
embedder = JohnSnowLabsEmbeddings("en.embed_sentence.biobert.clinical_base_cased")
定义一些示例文本。这些可以是您想要分析的任何文档,例如新闻文章、社交媒体帖子或产品评论。
texts = ["Cancer is caused by smoking", "Antibiotics aren't painkiller"]
为文本生成并打印嵌入。JohnSnowLabsEmbeddings 类为每个文档生成一个嵌入,这是文档内容的数值表示。这些嵌入可以用于各种自然语言处理任务,例如文档相似性比较或文本分类。
embeddings = embedder.embed_documents(texts)
for i, embedding in enumerate(embeddings):
print(f"Embedding for document {i+1}: {embedding}")
为单个文本生成并打印嵌入。您还可以为单个文本生成嵌入,例如搜索查询。这对于信息检索等任务非常有用,您希望找到与给定查询相似的文档。
query = "Cancer is caused by smoking"
query_embedding = embedder.embed_query(query)
print(f"Embedding for query: {query_embedding}")