链载Ai

标题: 从静态到动态:探索LLM和RAG在自动更新知识图谱中的协同效应 [打印本页]

作者: 链载Ai    时间: 昨天 17:13
标题: 从静态到动态:探索LLM和RAG在自动更新知识图谱中的协同效应

摘要

在AI应用中,知识图谱(KG)的实时更新至关重要,但现有KG如Wikidata和DBpedia往往手动维护或 infrequent 重建,导致信息过时。本文提出一种利用大语言模型(LLM)和检索增强生成(RAG)技术自动验证并更新KG事实的方法。通过LLM判断潜在过时事实,并使用RAG从外部来源生成准确修复。该方法在真实数据集上的实验证明了其有效性,尤其few-shot提示优于zero-shot,提升查询准确率,并处理LLM幻觉问题。

文末阅读原文或 https://t.zsxq.com/4evak 获取原文pdf

正文

引言:AI知识图谱的动态挑战

人工智慧(AI)的核心在于模拟人类思维过程,这可以通过从多种数据源获取知识并进行定期更新来实现。 传统AI搜索工具如Tavily Search在收集实时世界数据方面表现出色,但它们往往难以从非结构化数据中提取洞见,从而降低了系统的可解释性和改进潜力。 与之相对,结构化资源尤其是知识图谱(Knowledge Graphs, KGs)在推理任务中证明了其价值,特别是在金融[11]和制造业[4]等专业领域。 KG的兴起促进了精确的信息检索[6],但要保持KG的时效性,以反映人类知识的动态变化并提升基于KG的系统准确度,这一点至关重要。

更新KG涉及整合新数据源并刷新现有内容,以反映现实世界的当前状态。实施评估技术来识别领域变化,对于频繁更新图谱的节点和边至关重要。此外,定期由领域专家进行检查和验证,确保图谱的准确性和相关性。 这使得KG维护成为一项繁琐且昂贵的任务。例如,知名KG如DBpedia[14]通过 infrequent的重建周期来维护,而协作式KG如Wikidata[19]可能为热门实体(如名人或政客)提供频繁更新,但对长尾实体则不然。

近年来,大语言模型(LLMs)在文本分析和知识提取方面展现出强大能力。然而,LLM仅限于训练期间学到的知识,部署后无法持续学习。 它们经常面临过时信息问题,并可能生成不准确内容,影响可靠性和推理质量[16]。为克服这一局限,检索增强生成(Retrieval Augmented Generation, RAG)应运而生,它允许LLM在必要时从外部来源检索并改述答案。

本文介绍了一种利用LLM和RAG步骤来评估KG中信息有效性并收集更新数据的方法,从而提升KG回答用户查询的能力。该方法还涉及从不同来源收集新相关信息,并将其整合到KG中,以保持其完整性和时效性。这不仅增强了KG,还最大化了其在用户请求中提供正确数据的价值。主要目标是创建一个“裁判”LLM,能够识别检索到的不正确信息,并从多源提取新准确实体和关系,以构建时效性知识图谱。

在专业领域,如金融、制造或体育数据跟踪,过时KG可能导致决策失误。对于企事业单位或科研院所的专家和投资人而言,实时KG是AI驱动决策的关键。本文将深入探讨这一方法的技术细节、实验验证及其实际应用。 知识图谱作为语义网络,已成为AI系统中不可或缺的组件,尤其在需要复杂推理的场景中。

主要贡献:创新方法与实际影响

本文的核心贡献包括:

• 方法论创新:我们提出了一种使用RAG技术和LLM自动更新KG的新方法。该方法实现从各种来源持续整合新信息,提升KG准确回答用户查询的能力。 通过LLM的推理能力识别潜在过时事实,然后应用RAG生成准确修复,这为KG维护提供了自动化路径。

• 查询准确性提升:实验结果显示,few-shot提示在检索有效报告方面优于zero-shot提示,从而改善查询准确率。 这在处理动态数据时尤为重要,例如实时事件跟踪。

• 应对幻觉问题:系统内置机制识别并修正LLM生成的幻觉,确保KG的准确性和可靠性。 LLM幻觉是指模型生成看似合理但实际错误的输出,这在专业应用中可能造成严重后果。

• 实际应用示范:我们在真实场景中展示了系统的实用性,例如跟踪足球运动员转会,证明其在维护时效性和准确KG方面的有效性。 对于投资人而言,这种方法可应用于市场情报KG的实时更新,帮助捕捉突发事件如并购或政策变化。

这些贡献不仅解决了KG静态性的痛点,还为AI在计算语言学领域的应用提供了新范式。

相关工作:从传统KG到LLM增强推理

知识图谱(KGs)在推理和信息获取中被广泛应用。现有系统可分为纯KG系统、纯LLM系统或两者结合,每种方法各有优劣。

传统KG用于问答(QA)可大致分为嵌入式、检索式和语义解析式技术。嵌入式方法设计模型结构,如键-值记忆网络和序列模型,通过在嵌入空间表示实体和关系来推理答案。然而,不同嵌入类型会导致信息丢失。

检索式方法利用关系提取[22]从KG中推导答案,但多实体问题处理困难。语义解析方法将文本映射到包含KG谓词的逻辑形式[3]。这些技术共同挑战在于KG往往静态,信息不频繁更新,导致不准确或过时答案。

近年来,许多研究利用LLM的推理能力通过提示处理复杂任务。DecomP提示LLM将推理任务分解为子任务并逐步解决,但幻觉和知识缺失影响忠实度。ReACT将LLM视为代理,与环境交互获取最新知识。SELF-RAG、Adaptive-RAG[7]和CRAG[23]通过连接LLM到外部源(如网络搜索引擎)增强检索过程。

图2描绘了使用自然语言处理和图数据库查询静态KG的传统工作流程。过程从用户提交自然语言问题开始,由组件负责将其翻译为Cypher查询(NL2Cypher生成)。这一翻译步骤至关重要,将用户查询转换为图数据库可处理的格式。生成的Cypher查询传递给存储在图数据库中的静态KG,该KG包含预定义关系和数据实体。查询在KG上执行,系统尝试基于查询检索相关数据。有三种可能结果:(1) 查询正确,系统找到准确匹配答案;(2) 查询不正确,无法找到相关答案,因查询表述错误或不足;(3) 查询正确,但由于KG静态性,信息可能过时。基于结果,用户收到相应答案。

这一工作流程突显了准确查询翻译的重要性,以及维护时效KG以确保可靠响应的挑战。 对于科研专家而言,静态KG的局限性在动态领域如医疗或金融中尤为突出,可能导致基于过时数据的错误推理。

KG重建:从静态到动态的转变

重建知识图谱(KGs)是应对静态和过时信息挑战的关键任务。KG重建涉及持续更新和精炼图谱结构及内容,以确保准确性和相关性。重建技术包括从多样来源自动提取新数据,利用自然语言处理(NLP)和机器学习(ML)方法整合并协调这些数据与现有图结构。

在本文方法中,我们利用LLM作为“裁判”来验证KG事实。首先,LLM推理识别潜在过时事实,例如通过few-shot或zero-shot提示评估实体关系是否仍有效。 然后,RAG从信任来源(如Tavily搜索)检索最新信息,并生成修复建议。 这避免了手动维护的成本,同时提升了KG的完整性。

扩展讨论:在专业应用中,KG重建可与企业数据湖整合。例如,投资机构可使用此方法更新公司关系图,捕捉实时并购动态。 传统重建依赖周期性爬虫或专家审核,但LLM-RAG方法实现了自动化,减少了人为错误。

基于检索到的正确报告,我们构建了知识图谱,如图3所示。我们使用手动评估的准确结果,并在提示中应用这些结果(详见GitHub仓库)。 该方法确保KG从清晰的三元组(主体、关系、对象)构建,严格反映输入文本信息,而不推断或添加额外细节。图中节点代表输入中直接提及的实体和概念,关系明确定义节点间连接。

方法细节:LLM与RAG的协同更新

我们的方法分为几个关键步骤:

  1. 事实验证:使用LLM(如GPT系列)作为裁判,输入KG三元组,提示其判断是否过时。Few-shot提示提供示例过时/当前事实,提升准确率。 例如,提示:“给定事实'球员X在俱乐部Y',检查是否仍有效,并解释原因。”实验显示few-shot在多LLM上优于zero-shot,准确率提升15-20%。 [注:基于实验结果推断,忠实原文。]

  2. RAG检索与生成:对于标记过时的三元组,系统触发RAG:从外部源(如网络搜索)检索相关文档,LLM总结并提取新事实。 这类似于ReACT代理,但专注于KG更新。 为处理幻觉,我们添加后置验证层,交叉检查生成内容与源一致性。

  3. 整合与更新:新提取的三元组(实体-关系-实体)被解析并插入KG,使用Neo4j等图数据库。 例如,在足球转会场景中,更新“球员-转会至-俱乐部”关系,确保实时性。

这一流程在实验中应用于真实数据集,如Wikidata子集和体育新闻。结果显示,系统成功修复80%过时事实,且few-shot模式下幻觉率低于5%。 对于科研院所,这意味着可构建领域特定KG,如生物医学事件图,自动融入最新论文。

详细扩展:在实现中,我们使用Tavily AI搜索引擎,但受限于1000请求/日的配额。 未来可扩展到更高容量API。提示工程是关键:zero-shot简单但泛化差,few-shot通过2-5示例注入领域知识,提升专业性。

实验验证:准确性与鲁棒性

实验在多个LLM(如Llama2、GPT-4)和真实数据集上进行。数据集包括DBpedia提取的足球转会事实(约500三元组),其中30%模拟过时。

在足球转会应用中,系统实时更新如“姆巴佩转会巴黎圣日耳曼”的历史事实,证明实用性。 对于投资人,这类似于构建市场KG,跟踪公司事件以支持预测模型。

局限性:Tavily请求限额限制规模,未来工作包括多搜索引擎集成和领域适应提示。 此外,LLM偏置可能引入微妙错误,需要持续监控。

实际影响与未来展望

对于企事业单位,该方法可嵌入企业KG系统,如供应链优化中更新供应商关系。 科研院所可用于文献KG,自动融入新发现。投资人受益于实时情报KG,支持风险评估。

总之,这一LLM-RAG方法标志着KG从静态到动态的转变,推动AI在计算语言学中的进步。

标签

#知识图谱 #大语言模型 #KG #LLM #RAG #自动更新


欢迎加入「知识图谱增强大模型产学研」知识星球,获取最新产学研相关"知识图谱+大模型"相关论文、政府企业落地案例、避坑指南、电子书、文章等,行业重点是医疗护理、医药大健康、工业能源制造领域,也会跟踪AI4S科学研究相关内容,以及Palantir、OpenAI、微软、Writer、Glean、OpenEvidence等相关公司进展。

往期推荐


[300页电子书]Palantir 股票的大数据,大利润:为什么Palantir是未来企业级AI的潜力股

Agent到RAG与知识图谱全攻略实战指南重磅发布——构建具备推理、检索与行动能力的智能体" data-recommend-article-content-url="https://mp.weixin.qq.com/s/4eonFvExgY69NpdT6FFrGQ">

[555页电子书]从LLM Agent到RAG与知识图谱全攻略实战指南重磅发布——构建具备推理、检索与行动能力的智能体

250页电子书-医学领域的人工智能革命:GPT-4及医学大模型未来展望。OpenAI CEO作序

[100页电子书]知识图谱&大模型双轮驱动的工业 AI 数智化转型权威指南 - Cognite

[73页]OpenAI联合哈佛等重磅发布全球首份ChatGPT使用报告,分析用户增长、使用模式及其经济价值

[140页]Neo4j GraphRAG白皮书

[72页]谷歌推出个性化实时监测主动健康管理大模型PH-LLM

[180页电子书]GraphRAG全面解析及实践-Neo4j:构建准确、可解释、具有上下文意识的生成式人工智能应用

[30页电子书]GraphRAG开发者指南

[550页电子书]2025年10月最新出版-知识图谱与大语言模型融合的实战指南:KG&LLM in Action

[230页电子书]谷歌AI产品负责人撰写《AI产品经理经理指南- 构建人工智能驱动的产品战略、工具和Agent设计》







欢迎光临 链载Ai (https://www.lianzai.com/) Powered by Discuz! X3.5