返回顶部
热门问答 更多热门问答
技术文章 更多技术文章

使用千帆完全免费的大模型,去构建Graph RAG,效果如何?

[复制链接]
链载Ai 显示全部楼层 发表于 3 小时前 |阅读模式 打印 上一主题 下一主题

先简单说下 RAG 和Graph RAG的区别。

以把小说作为知识库为例。

RAG,会把小说分块,然后把每块向量化,之后用户提问,根据提问的问题,找到最相似的分块,最后把这些分块,发送给AI模型,最后,AI模型给出答案。

Graph RAG,会把小说中,拆分出节点和边。

节点,可以理解为是一个人物,如:主角。

边,可以理解为,节点和节点间的关系,用来连接节点。

然后,找到最相似的节点,遍历这个节点的上下关系,这个上下关系,可能和你问题的语义,完全不相关,所以普通RAG是搜不出来的。

最后,给AI模型,得出答案。

所以区别就是,Graph RAG给AI模型的语料,会包含更加详细的信息。


然后,进入正题,百度千帆平台,有完全免费的模型。

这种标着免费使用的模型,有着使用的限制,我用到的是下面的模型。

这里提示无需开通,也没标记使用限制。


具体如何对接,请自行查看文档,目前我还在开发的"多样智能",已经给出了web版页面配置。

配置好了之后,看下对话效果,我感觉这个免费的模型,对话效果不好。

最后我解析了小说"飞升之后",前24000字,构成了这样的知识图谱。

放大看看

这是我优化后结果,刚开始对接这个模型的时候,生成的图谱一塌糊涂。


看下搜索的结果。


我没有测试过openai构建的知识图谱,有钱的小伙伴可以也解析下,比较下,据我了解,使用openai构建的知识图谱很贵。

如果是本地搭建了ollama等平台,由于每台电脑配置不同,这里不测试了,反正我自己实验了下,就放弃了,太慢了。

回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

链载AI是专业的生成式人工智能教程平台。提供Stable Diffusion、Midjourney AI绘画教程,Suno AI音乐生成指南,以及Runway、Pika等AI视频制作与动画生成实战案例。从提示词编写到参数调整,手把手助您从入门到精通。
  • 官方手机版

  • 微信公众号

  • 商务合作

  • Powered by Discuz! X3.5 | Copyright © 2025-2025. | 链载Ai
  • 桂ICP备2024021734号 | 营业执照 | |广西笔趣文化传媒有限公司|| QQ