Neo4j Browser URI: https://demo.neo4jlabs.com:7473/browser/
username: companies
password: companies
database: companies
我们将从定义凭证和与 Neo4j 的相关连接开始。
importos
os.environ["OPENAI_API_KEY"]="sk-"
os.environ["NEO4J_URI"]="neo4j+s://demo.neo4jlabs.com"
os.environ["NEO4J_USERNAME"]="companies"
os.environ["NEO4J_PASSWORD"]="companies"
os.environ["NEO4J_DATABASE"]="companies"
embeddings=OpenAIEmbeddings()
graph=Neo4jGraph()
vector_index=Neo4jVector.from_existing_index(
embeddings,
index_name="news"
)
如前所述，我们将使用 OpenAI 嵌入，为此需要其 API 密钥。接下来，我们定义与 Neo4j 的图连接，这样就可以执行任意的 Cypher 语句。最后，我们实例化一个 Neo4jVector 连接，它可以通过查询现有的向量索引来获取信息。在撰写本文时，您不能将矢量索引与预过滤方法结合使用；您只能将后过滤与矢量索引结合使用。不过，关于后过滤的讨论超出了本文的讨论范围，因为我们将重点讨论结合详尽的向量相似性搜索的预过滤方法。或多或少，整篇博文可以归结为以下get_organization_news函数，该函数动态生成 Cypher 语句并检索相关信息。为清晰起见，我将把代码分成多个部分。
defget_organization_news(
topic:Optional[str]=None,
organization:Optional[str]=None,
country:Optional[str]=None,
sentiment:Optional[str]=None,
)->str:
#Ifthereisnoprefiltering,wecanusevectorindex
iftopicandnotorganizationandnotcountryandnotsentiment:
returnvector_index.similarity_search(topic)
#Usesparallelruntimewhereavailable
base_query=(
"CYPHERruntime=parallelparallelRuntimeSupport=all"
"MATCH(c:Chunk)<-[:HAS_CHUNK]-(a:Article)WHERE"
)
where_queries=[]
params={"k":5}#Definethenumberoftextchunkstoretrieve
我们首先定义输入参数。正如你所看到的，所有参数都是可选字符串。主题参数用于查找文档中的特定信息。在实践中，我们会嵌入主题参数的值，并将其作为向量相似性搜索的输入。其他三个参数将用于演示预过滤方法。如果所有预过滤参数都为空，我们就可以使用现有的向量索引找到相关文档。否则，我们就开始准备将用于预过滤元数据方法的基础 Cypher 语句。CYPHER runtime = parallel parallelRuntimeSupport=all子句指示 Neo4j 数据库在可用的情况下使用并行运行时。接下来，我们准备一个匹配语句，选择 Chunk 节点及其对应的文章节点。现在，我们可以在 Cypher 语句中动态附加元数据过滤器了。我们将从 Organizationfilter 开始。
iforganization:
#Maptodatabase
candidates=get_candidates(organization)
iflen(candidates)>1:#Askforfollowupiftoomanyoptions
return(
"Askafollowupquestionwhichoftheavailableorganizations"
f"didtheusermean.Availableoptions:{candidates}"
)
where_queries.append(
"EXISTS{(a)-[:MENTIONS]->(:Organization{name
organization})}"
)
params["organization"]=candidates[0]
如果 LLM 识别出用户感兴趣的任何特定组织，我们必须首先使用 get_candidates 函数将该值映射到数据库。在引擎盖下，get_candidates 函数利用[全文索引进行关键词搜索](<(https://neo4j.com/docs/cypher-manual/current/indexes/semantic-indexes/full-text-indexes/ "全文索引进行关键词搜索")>)，以找到候选节点。如果找到多个候选节点，我们会指示 LLM 向用户提出一个后续问题，以明确他们到底指的是哪个组织。否则，我们会在过滤器列表中添加一个存在子查询[3]，过滤提及特定组织的文章。为了防止任何 Cypher 注入，我们使用查询参数而不是连接查询。接下来，我们将处理用户希望根据所提及组织的国家预先过滤文本块的情况。
ifcountry:
#Noneedtodisambiguate
where_queries.append(
"EXISTS{(a)-[:MENTIONS]->(:Organization)-[:IN_CITY]->()-[:IN_COUNTRY]->(:Country{namecountry})}"
)
params["country"]=country
由于国家遵循标准命名，我们不必将数值映射到数据库中，因为法律硕士熟悉大多数国家的命名标准。同样，我们也处理情感元数据过滤。
ifsentiment:
ifsentiment=="positive":
where_queries.append("a.sentiment>$sentiment")
params["sentiment"]=0.5
else:
where_queries.append("a.sentiment<$sentiment")
params["sentiment"]=-0.5
我们将指示 LLM 对情感输入值只使用两个值，即正值或负值。然后，我们将这两个值映射到适当的过滤值。我们对 topic 参数的处理略有不同，因为它不是用于预过滤，而是用于向量相似性搜索。
iftopic:#Dovectorcomparison
vector_snippet=(
"WITHc,a,vector.similarity.cosine(c.embedding,$embedding)ASscore"
"ORDERBYscoreDESCLIMITtoInteger($k)"
)
params["embedding"]=embeddings.embed_query(topic)
else:#Justreturnthelatestdata
vector_snippet="WITHc,aORDERBYa.dateDESCLIMITtoInteger($k)"
如果 LLM 识别出用户对新闻中的某个特定主题感兴趣，我们就会使用主题输入的文本嵌入来查找最相关的文档。另一方面，如果没有识别出特定的主题，我们只需返回最新的几篇文章，完全避免矢量相似性搜索。现在，我们必须将 Cypher 语句组合在一起，用它从数据库中获取信息。
return_snippet="RETURN'#title'+a.title+'\n#date'+toString(a.date)+'\n#text'+c.textASoutput"
complete_query=(
base_query+"AND".join(where_queries)+vector_snippet+return_snippet
)
#Retrieveinformationfromthedatabase
data=graph.query(complete_query,params)
print(f"Cypher:{complete_query}\n")
#Safelyremoveembeddingbeforeprinting
params.pop('embedding',None)
print(f"Parameters:{params}")
return"###Article:".join([el["output"]forelindata])
我们通过组合所有查询片段来构建最终的 complete_query。然后，我们使用动态生成的 Cypher 语句从数据库中检索信息，并将其返回给 LLM。让我们以输入为例，检查生成的 Cypher 语句。
get_organization_news(
organization='neo4j',
sentiment='positive',
topic='remotework'
)
#Cypher:CYPHERruntime=parallelparallelRuntimeSupport=all
#MATCH(c:Chunk)<-[:HAS_CHUNK]-(a:Article)WHERE
#EXISTS{(a)-[:MENTIONS]->(:Organization{nameorganization})}AND
#a.sentiment>$sentiment
#WITHc,a,vector.similarity.cosine(c.embedding,$embedding)ASscore
#ORDERBYscoreDESCLIMITtoInteger($k)
#RETURN'#title'+a.title+'\ndate'+toString(a.date)+'\ntext'+c.textASoutput
#Parameters:{'k':5,'organization':'Neo4j','sentiment':0.5}
动态查询生成功能符合预期，能够从数据库中检索到相关信息。
接下来，我们需要将该函数包装成一个 Agent 工具。首先，我们将添加输入参数说明。
fewshot_examples="""{Input:WhatarethehealthbenefitsforGoogleemployeesinthenews?Query:Healthbenefits}
{Input:WhatisthelatestpositivenewsaboutGoogle?Query:None}
{Input:ArethereanynewsaboutVertexAIregardingGoogle?Query:VertexAI}
{Input:ArethereanynewsaboutnewproductsregardingGoogle?Query:newproducts}
"""
classNewsInput(BaseModel):
topic:Optional[str]=Field(
description="Anyspecificinformationortopicbesidesorganization,country,andsentimentthattheuserisinterestedin.Herearesomeexamples:"
+fewshot_examples
)
organization:Optional[str]=Field(
description="Organizationthattheuserwantstofindinformationabout"
)
country:Optional[str]=Field(
description="Countryoforganizationsthattheuserisinterestedin.UsefullnameslikeUnitedStatesofAmericaandFrance."
)
sentiment:Optional[str]=Field(
description="Sentimentofarticles",enum=["positive","negative"]
)
预过滤参数的描述非常简单，但我在让主题参数按预期工作时遇到了一些问题。最后，我决定添加一些示例，以便 LLM 能够更好地理解。此外，您还可以看到，我们向 LLM 提供了有关国家命名格式的信息，并提供了情感的枚举。现在，我们可以定义一个自定义工具，给它一个名称和描述，其中包含 LLM 使用说明。
classNewsTool(BaseTool):
name="NewsInformation"
description=(
"usefulforwhenyouneedtofindrelevantinformationinthenews"
)
args_schema:Type[BaseModel]=NewsInput
def_run(
self,
topic:Optional[str]=None,
organization:Optional[str]=None,
country:Optional[str]=None,
sentiment:Optional[str]=None,
run_manager:Optional[CallbackManagerForToolRun]=None,
)->str:
"""Usethetool."""
returnget_organization_news(topic,organization,country,sentiment)
最后一件事是定义代理执行器。我只是重复使用了前段时间实现的 OpenAI 代理的 [LCEL 实现](<(https://python.langchain.com/docs/expression_language/ "LCEL 实现")>)。
llm=ChatOpenAI(temperature=0,model="gpt-4-turbo",streaming=True)
tools=[NewsTool()]
llm_with_tools=llm.bind(functions=[format_tool_to_openai_function(t)fortintools])
prompt=ChatPromptTemplate.from_messages(
[
(
"system",
"Youareahelpfulassistantthatfindsinformationaboutmovies"
"andrecommendsthem.Iftoolsrequirefollowupquestions,"
"makesuretoasktheuserforclarification.Makesuretoincludeany"
"availableoptionsthatneedtobeclarifiedinthefollowupquestions"
"Doonlythethingstheuserspecificallyrequested.",
),
MessagesPlaceholder(variable_name="chat_history"),
("user","{input}"),
MessagesPlaceholder(variable_name="agent_scratchpad"),
]
)
agent=(
{
"input":lambdax:x["input"],
"chat_history":lambdax:_format_chat_history(x["chat_history"])
ifx.get("chat_history")
else[],
"agent_scratchpad":lambdax:format_to_openai_function_messages(
x["intermediate_steps"]
),
}
|prompt
|llm_with_tools
|OpenAIFunctionsAgentOutputParser()
)
agent_executor=AgentExecutor(agent=agent,tools=tools)
代理只需使用一个工具就能检索新闻信息。我们还添加了 chat_history 消息占位符，使代理可以进行对话，并允许后续提问和回复。
让我们运行几个输入，检查生成的 Cypher 语句和参数。
agent_executor.invoke(
{"input":"Whataresomepositivenewsregardingneo4j?"}
)
#Cypher:CYPHERruntime=parallelparallelRuntimeSupport=all
#MATCH(c:Chunk)<-[:HAS_CHUNK]-(a:Article)WHERE
#EXISTS{(a)-[:MENTIONS]->(:Organization{nameorganization})}AND
#a.sentiment>$sentimentWITHc,a
#ORDERBYa.dateDESCLIMITtoInteger($k)
#RETURN'#title'+a.title+'date'+toString(a.date)+'text'+c.textASoutput
#Parameters:{'k':5,'organization':'Neo4j','sentiment':0.5}
生成的 Cypher 语句是有效的。由于我们没有指定任何特定主题，因此它返回了提及 Neo4j 的正面文章中的最后五个文本块。让我们做一些更复杂的事情：
agent_executor.invoke(
{"input":"WhataresomeofthelatestnegativenewsaboutemployeehappinessforcompaniesfromFrance?"}
)
#Cypher:CYPHERruntime=parallelparallelRuntimeSupport=all
#MATCH(c:Chunk)<-[:HAS_CHUNK]-(a:Article)WHERE
#EXISTS{(a)-[:MENTIONS]->(:Organization)-[:IN_CITY]->()-[:IN_COUNTRY]->(:Country{namecountry})}AND
#a.sentiment<$sentiment
#WITHc,a,vector.similarity.cosine(c.embedding,$embedding)ASscore
#ORDERBYscoreDESCLIMITtoInteger($k)
#RETURN'#title'+a.title+'date'+toString(a.date)+'text'+c.textASoutput
#Parameters:{'k':5,'country':'France','sentiment':-0.5,'topic':'employeehappiness'}
LLM 代理不仅能正确生成预过滤参数，还能识别特定的员工幸福感主题。该主题被用作矢量相似性搜索的输入，使我们能够进一步完善检索过程。
在这篇博文中，我们实施了基于图的元数据过滤器示例，从而提高了矢量搜索的准确性。然而，数据集具有广泛且相互关联的选项，可以进行更复杂的预过滤查询。通过图数据表示，结合 LLM 函数调用功能动态生成 Cypher 语句，结构化过滤器的可能性几乎是无限的。此外，您的代理还可以拥有检索非结构化文本的工具（如本博文所示），以及检索结构化信息[4]的其他工具，从而使知识图谱成为许多 RAG 应用程序的出色解决方案。
| 欢迎光临 链载Ai (https://www.lianzai.com/) | Powered by Discuz! X3.5 |