Dify 搭建私有的RAG知识库（实操篇） - 链载Ai

还在为构建私有化AI应用犯愁吗？今天给大家介绍一款强大的开源利器——dify。这款被称为'AI应用开发神器'的平台，正在悄悄改变着开发者构建AI应用的方式。

什么是Dify？

Dify 是一款开源的大语言模型（LLM）应用开发平台，专注于帮助用户快速构建、部署和管理生成式 AI 应用。通过结合后端即服务（BaaS）和LLMOps（大模型运维），它简化了复杂的技术流程，让没有深厚编程背景的开发者也能轻松参与 AI 应用开发。

独家揭秘：Dify的三大王牌功能，让AI应用开发变得如此简单！

想打造AI应用？Dify为您准备了简单易用的可视化界面！只需动动手指，拖拽一下，您就能设计出专业的AI工作流和智能助手。告别繁琐代码，轻松搞定自动化任务！?

更赞的是，它还支持文字、图片、语音等多种形式，完美对接GPT-4、Claude等各路AI大咖，让您的应用更出彩！✨

企业级黑科技加持

智能检索升级版RAG
：采用顶尖向量检索技术，让AI回答更准确、更专业，就像有了超强记忆力！?
模型随心配
：想用国产AI？没问题！通义千问、智谱AI应有尽有，还能私有部署，数据安全无忧！?
运维零压力
：系统性能、日志分析、版本管理，一站式解决方案让您高枕无忧！⚙️

百变场景，轻松驾驭

智能客服升级版
：打造7×24小时在线的AI助手，轻松应对各类咨询，让服务更贴心！?
内容创作神器
：营销文案、专业报告、技术教程，AI一键生成，工作效率翻倍！?
数据分析专家
：复杂数据秒变清晰报告，工单处理、邮件回复自动化搞定，让决策更明智！?

想尝试Dify？跟着教程，十分钟搞定部署！快来解锁你的AI私有化之旅吧！✨

手把手教你安装必备工具！

第一步：轻松搞定Git安装 ?

打开Git官网 (https://git-scm.com/downloads)，选择适合你系统的版本下载
一键安装：无需纠结，默认设置就是最佳选择！
验证安装：打开终端，输入神奇咒语git --version，看到版本号就代表成功啦！

第二步：Docker安装就是这么简单 ⚡

访问Docker官网 (https://www.docker.com/products/docker-desktop)，下载Docker Desktop神器
根据提示傻瓜式安装

Windows用户小贴士：别忘了开启WSL2和虚拟化哦～
Mac达人必读：先确认下你的处理器类型（Intel还是ARM）

最后一步：terminal里输入docker --version，完美收工！

第三步：克隆Dify 代码

$git clone [git@github.com](<mailto:git@github.com>):langgenius/dify.git

通过Docker启动Dify

$cd dify/dockers
$cp .env.example .env # .env是各种配置redis，sqldatabase，vector store，etc
$docker compose up -d

在浏览器中输入http://localhost，默认的port是80，跟我的其他有冲突，所以我改成了8088.

第四步：输入管理员的用户名和密码，然后登录

然后可以在网页上进行设置了

选择大模型供应商，设置API-KEY, 我用的是硅基流动，你也可以选择自己的。

可以创建知识库了。

添加文件

分块

Embedding的选择

模型	参数量	推理速度 (tokens/s)	MTEB 准确率	内存占用 (GB)	适用场景	优势	局限性
BGE-M3	340M	1200	91.2%	4.8	多语言/混合检索/长文本	中文场景最优，支持稠密+稀疏混合检索，8K 上下文处理能力	需中等显存（推荐 GPU 部署）
text-embedding-3-large	1.3B	850	93.5%	6.2	高精度文本检索	3072 维向量，语义捕捉能力最强	需高显存（4.8GB+），成本较高
multilingual-e5-large	560M	1500	89.7%	3.1	低资源多语言场景	参数效率高，250+语言支持，训练成本低	英语表现弱于专用模型

Rerank选择

维度	BCE-Reranker-base_v1 (网易有道)	BGE-Reranker-v2-m3 (智源研究院)
模型架构	基于BERT的变体，优化双语和跨语言语义理解	基于BGE-M3-0.5B架构，采用分层自蒸馏策略优化推理效率
多语言支持	中文、英文、日文、韩文	覆盖100+种语言，重点强化中英文混合场景
输入长度	最大512 tokens	最大8192 tokens（支持长网页处理）
训练数据	中英双语数据集+跨语言对齐数据	多语言联合训练（含低资源语言），集成视觉token增强
部署复杂度	需GPU加速（显存需求较高）	轻量化设计（0.5B参数），24G显存GPU可流畅运行
开源支持	仅限企业级API调用	开源（Hugging Face/GitHub），支持商用许可

然后，进行召回测试

创建一个对话

设置系统消息：

You are an AI assistant that strictly answers based on the given context. If the answer cannot be derived directly from the provided context, respond with: “I do not have enough information to answer that.”

您是一个 AI 助手，严格根据给定的上下文进行回答。如果无法直接从提供的上下文中得出答案，请回复：“我没有足够的信息来回答这个问题。”

选择知识库
选择模型
开始提问

通过以上步骤，我们已经成功搭建了一个基于Dify的智能知识库系统。这不仅仅是一个简单的RAG应用，更是一个能够真正理解并回答用户问题的AI助手。无论是处理企业文档、构建客服系统，还是打造专业知识库，Dify都能够帮助我们事半功倍。