链载Ai

标题: 从零开始:CherryStudio 打造专属本地 AI 知识库全攻略 [打印本页]

作者: 链载Ai    时间: 10 小时前
标题: 从零开始:CherryStudio 打造专属本地 AI 知识库全攻略

ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;display: table;padding: 0px 0.2em;color: rgb(255, 255, 255);background: rgb(218, 0, 0);">CherryStudio搭建本地知识库

1、首先去硅基(点我去注册)[1]注册个账号,因为需要配置 Embedding(嵌入式模型),注册成功后你会获得2000W Token

ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;font-size: 16px;letter-spacing: 0.1em;color: rgb(63, 63, 63);">2、安装CherryStudio[2]客户端,官网提供了全平台ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;font-size: inherit;color: rgb(218, 0, 0);">Mac/Win/Linux 客户端

将 自己已有的提示词 粘贴进来,点击关闭后即可使用。还可以进行一些预设置

本地知识库分析APP隐私政策

搭建了本地知识库后我尝试来分析APP中的隐私政策文本,看看是否存在合规问题,因为本地知识库的加持,加上大模型对文本的理解能力,对于这种文本分析来说很爽。

当然这还需要自己去试:

模型选择

首先来说一下模型,我试了DeepSeek-R1、DeepSeek-V3、GPT-4o、claude-3-5等模型,这些模型差别还是挺大:

DeepSeek-R1,可以说思考的很久,可以帮助自己大幅度改进自己的想法和提示词,但是它很发散,比如我提示词已经写好了让他按照什么格式来输出,但是它还是在输出的时候一点点的偏离我的预定,头疼?。

DeepSeek-V3,它是会按照你的提示词约定好的来回答,但是回答的内容太规整,说的不好一点就是无法理解你的需求,回答比较傻。

GPT-4o,这是我用的模型里面最快的,效率杠杠的,但是回答的内容也还是不能达到我的预期,感觉是在DeepSeek-R1和DeepSeek-V3中间摆动着。

claude-3-5,真的是出乎意料,完美的达到我想要的结果,我在提示词中告诉了应该输出的格式,比如在分析隐私政策的时候,需要告诉我分析的那一段隐私政策?是否符合要求?参考的什么标准?应该如何整改?这些都能按照要求一一输出,几乎没有错误。

提示词优化

一开始我没有很详细的提示词,就是简单告诉它自己是一个隐私合规分析工程师,帮助分析一下隐私政策,参考知识库中的标准文档,看看有什么不合规的地方,当然这样的话给我的答案就很不稳定,一会分析的这一段,一会分析的那一段,这次分析这几段,下次就分析其他几段了,完全不固定。

好了,我开始给他固定一些内容,比如我告诉他应该针对哪些检测项进行分析,把标准中和隐私政策文本相关的一些检测项整理出来都放在提示词里,同时告诉它要逐一分析下面的检测项,不能遗漏,这时可以分析所有的检测项了,但是很多检测项的理解还是欠缺。

接下来我就给每一条检测项后面加了注释,就像我当时理解这条检测项的时候是怎么做的,怎么去定位隐私政策文本的,都写在注释里面。好了,到这里他开始正常分析了。

最后的问题就是大模型统一存在的问题,回答长度的问题,我们只需要在它回答暂停后,回复“继续”即可。

知识库优化

前面已经说了,我们文件夹中的文本有些可能无法识别,遇到无法识别的PDF可以找其他的替换,按照官方的意思最好优先选择word文档,当然我现在用下来很多文档都是支持的。

再就是一些文档中的内容可能比较官方,我们可能需要解释一下,把这些解释添加到知识库的笔记中,当然也可以像我之前那样加到提示词里面,目的就是让大模型提前知道并理解。







欢迎光临 链载Ai (https://www.lianzai.com/) Powered by Discuz! X3.5