返回顶部
热门问答 更多热门问答
技术文章 更多技术文章

基于AnythingLLM搭建本地知识库

[复制链接]
链载Ai 显示全部楼层 发表于 昨天 12:47 |阅读模式 打印 上一主题 下一主题
书接上文,我们完成了deepseek模型的本地化部署,并通过pageAssist插件构建了我们第一个本地化聊天Agent。今天我们则通过anythingLLM 工具,从0到1搭建专属知识问答Agent。本文搭建过程无需任何编码经验

下载与安装

访问anythingLLM官网,点击“Download for Desktop”按钮,并根据要安装的电脑的操作系统选择对应版本的anything LLM安装包下载
下载完成后,根据安装导引进行anythingLLM的安装

基础配置及使用

https://docs.anythingllm.com/configuration

工作区基础配置

第一次打开AnythingLLM可以通过新建工作区 来建立自己专属的工作区,创建完成后,可以点击工作区名称右侧的“齿轮”按钮进入工作区设置页面,在“聊天设置”选项卡汇总进行模型基础信息设置
本次我们设置基座模型为Qwq-32B的本地版本,所以工作区LLM提供者选择Ollama,模型选择已经下载好的Qwq-32B(Ollama 安装及下载本地模型可以参考),如果使用其他公用模型可以工作区LLM提供者安装及下载本地模型可以参考 ),如果使用其他公用模型可以工作区LLM提供者 选择相应的模型信息,并配置相应AK/SK信息,AnythingLLM中基本涵盖了目前流行的模型信息。

构建个人知识库

通过工作区名称右侧的“上传”按钮拉起知识库上传面板
anythingLLM支持文档上传和通过连接获取一些渠道的数据(目前支持github,gitlab,youtube以及网页爬取),点击上传 并选择相应文件后,等待上传完成后,点击发布到工作区后,在点击“Save and Embed” 即可对上传文件进行向量化处理,等待embed完成后,工作区就可以使用相应知识库来帮助问答。

开启对话

一些其他扩展

联网搜索配置

跳转至AnythingLLM的通用配置,目前提供以下
anythingLLM默认网络搜索为关闭状态,需要手动打开,并选择要使用的搜索插件并完成对应配置,即可体验问答搜索能力。完成配置后需要在右上角点击save按钮才可生效。

自定义插件

https://docs.anythingllm.com/agent/custom/developer-guide
仅提供anythingLLM 定制插件开发文档,细节不在本文中赘述

回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

链载AI是专业的生成式人工智能教程平台。提供Stable Diffusion、Midjourney AI绘画教程,Suno AI音乐生成指南,以及Runway、Pika等AI视频制作与动画生成实战案例。从提示词编写到参数调整,手把手助您从入门到精通。
  • 官方手机版

  • 微信公众号

  • 商务合作

  • Powered by Discuz! X3.5 | Copyright © 2025-2025. | 链载Ai
  • 桂ICP备2024021734号 | 营业执照 | |广西笔趣文化传媒有限公司|| QQ