链载Ai

标题: 利用Cherry Studio 硅基流动免费搭建一个强大的本地AI知识库! [打印本页]

作者: 链载Ai    时间: 昨天 18:15
标题: 利用Cherry Studio 硅基流动免费搭建一个强大的本地AI知识库!

一、Cherry Studio简介

Cherry Studio 是一款支持多个大语言模型(LLM)服务商的桌面客户端,兼容 Windows、Mac 和 Linux 系统。它内置了 30 多个行业的智能助手,旨在帮助用户在多种场景下提升工作效率。

项目地址:

https://github.com/CherryHQ/cherry-studio/blob/main/docs/README.zh.md

使用教程:https://docs.cherry-ai.com/

主要特性包括:

二、注册硅基流动

1.手机号注册

SiliconCloud(硅基流动)是一个集合了多种顶尖大模型的一站式云服务平台, 它提供开箱即用的大模型 API,按量收费,助力应用开发轻松实现。

注册地址:https://cloud.siliconflow.cn/i/FB4BZiFO

输入手机号进行注册,注册成功后会获得14元余额,约等于2000万tokens(Qwen2.5-14B-Instruct 模型单价下的数量)。同时,邀请新用户注册也会获得赠送token。

2.新建API密钥

输入密钥名称,新建密钥。新建后会自动生成密钥,可以复制下拉供后续使用。

二、Cherry Studio配置

1.配置硅基流动API密钥

进入最左下角设置,第一个就是“硅基流动”,在配置页面的API密钥输入框粘贴前面复制的API密钥。点击检测,检测成功后即表示可用。

2.添加嵌入式模型

配置页面滑动到最底部,点击“管理”按钮,打开硅基流动模型配置弹框,进入嵌入一栏,选择要添加的模型。注:BAAI/bge-m3为免费模型,Pro/BAAI/bge-m3为收费模型。

三、知识库配置

1.添加知识库

填写知识库名称,选择嵌入模型。例如我这里选择的是前面添加的收费模型“Pro/BAAI/bge-m3”。

添加完成后如下所示:

2.添加文件并向量化

CherryStudio 支持多种添加数据的方式:

注意:

  1. 导入知识库的文档中的插图暂不支持转换为向量,需要手动转换为文本;
  2. 使用网址作为知识库来源时不一定会成功,有些网站有比较严格的反扒机制(或需要登录、授权等),因此该方式不一定能获取到准确内容。创建完成后建议先搜索测试一下。

例如,我导入了“软件评测师”相关的文件,随后搜索。

① 导入知识库文件

可以直接拖拽文件,或是点击“添加文件”、手动选择本地文件,出现绿色的✅表示向量化完成。

② 搜索知识库

四、对话中引用知识库生成回复

先在底部对话框中选择知识库,我这里选择的是“软件评测师”知识库,随后输入问题进行提问,回复的答案底部带有“引用内容”,表示知识库引用成功。

五、知识库处理流程原理

在 Cherry Studio 知识库中添加的数据全部存储在本地,在添加过程中会复制一份文档放在 Cherry Studio 数据存储目录。

当文档被添加到 Cherry Studio 知识库之后,文件会被切分为若干个片段,然后这些片段会交给嵌入模型进行处理。当使用大模型进行问答的时候,会查询和问题相关的文本片段一并交个大语言模型处理。

注意:如果对数据隐私有要求,建议使用本地嵌入数据库和本地大语言模型








欢迎光临 链载Ai (https://www.lianzai.com/) Powered by Discuz! X3.5