链载Ai

标题: 基于AnythingLLM搭建本地知识库 [打印本页]

作者: 链载Ai 时间: 昨天 12:47
标题: 基于AnythingLLM搭建本地知识库

书接上文，我们完成了deepseek模型的本地化部署，并通过pageAssist插件构建了我们第一个本地化聊天Agent。今天我们则通过anythingLLM 工具，从0到1搭建专属知识问答Agent。本文搭建过程无需任何编码经验

下载与安装

访问anythingLLM官网，点击“Download for Desktop”按钮，并根据要安装的电脑的操作系统选择对应版本的anything LLM安装包下载

下载完成后，根据安装导引进行anythingLLM的安装

基础配置及使用

https://docs.anythingllm.com/configuration

工作区基础配置

第一次打开AnythingLLM可以通过新建工作区来建立自己专属的工作区，创建完成后，可以点击工作区名称右侧的“齿轮”按钮进入工作区设置页面，在“聊天设置”选项卡汇总进行模型基础信息设置

本次我们设置基座模型为Qwq-32B的本地版本，所以工作区LLM提供者选择Ollama,模型选择已经下载好的Qwq-32B(Ollama 安装及下载本地模型可以参考)，如果使用其他公用模型可以工作区LLM提供者安装及下载本地模型可以参考 )，如果使用其他公用模型可以工作区LLM提供者选择相应的模型信息，并配置相应AK/SK信息，AnythingLLM中基本涵盖了目前流行的模型信息。

构建个人知识库

通过工作区名称右侧的“上传”按钮拉起知识库上传面板

anythingLLM支持文档上传和通过连接获取一些渠道的数据（目前支持github,gitlab,youtube以及网页爬取），点击上传并选择相应文件后，等待上传完成后，点击发布到工作区后，在点击“Save and Embed” 即可对上传文件进行向量化处理，等待embed完成后，工作区就可以使用相应知识库来帮助问答。

开启对话

一些其他扩展

联网搜索配置

跳转至AnythingLLM的通用配置，目前提供以下

anythingLLM默认网络搜索为关闭状态，需要手动打开，并选择要使用的搜索插件并完成对应配置，即可体验问答搜索能力。完成配置后需要在右上角点击save按钮才可生效。

自定义插件

https://docs.anythingllm.com/agent/custom/developer-guide

仅提供anythingLLM 定制插件开发文档，细节不在本文中赘述

欢迎光临链载Ai (https://www.lianzai.com/)