AnythingLLM 是开源自托管大模型知识库工具,主打极度轻量化、可高度定制化的本地知识管理。优点:资源消耗低、架构松耦合、易在本地/云端快速部署。支持多种检索策略(传统BM25+语义向量匹配),适合高并发低成本场景。代码和数据全部掌控,极适合资源受限或私有化环境,数据安全性高。缺点,静态知识库场景优于动态知识库,长会话上下文管理和专业检索精度稍逊于 Cheer Studio。
一、Mia安装
下载网址:https://ima.qq.com/download,直接通过上述网址下载,安装即可,过程简单
安装完毕,先上传本地文件
二、Cheer Studio安装
下载网址:https://www.cherry-ai.com/download
安照顺序安装好:
打开如下:
按照本地知识库:
实测PDF上传失败次数多,文档好一点
获取API,以deepseek为例,登录https://www.deepseek.com/
点击右上角
创建自己的API密钥,提前复制好,后续看不了,模型充值,选合适的价位
https://api-docs.deepseek.com/zh-cn/quick_start/pricing/
将API填入cherry,按下图顺序操作,这里的硅基流动可以直接使用
三、AnythingLLM安装
下载网址:https://anythingllm.com/desktop
找顺序安装下载即可,anythingllm安装包较大,文件库,API导入与cherry类似,不再叙述
实践结果,anythingllm:deepseek幻觉较严重,但其它的一些,如perplexity无法成功,可能是网络问题。cherry:deepseek无问题,其它的如perplexity使用时需要考虑间隔不应太短,并发不应太多,否则会被拒绝报错。如果电脑配置足够可以考虑anythingllm + Ollama的本地私有化部署,当然参数越大越好。还可考虑腾讯开源的Mia平替weknora。
| 欢迎光临 链载Ai (https://www.lianzai.com/) | Powered by Discuz! X3.5 |