普通CPU笔记本也能操练大模型！One-api Dify 本地Docker部署全流程 - 链载Ai

LLM大模型API key（国内的Qwen、GLM、Moonshot、deepseek都可以）;

梯子: 鉴于Github和Dockerhub访问的难度与不稳定现状，搭个梯子是必要的；

Docker 基本应用，至少会在Windows里安装docker desktop。

One API 是一套接口管理 & 分发系统，支持 Azure、Anthropic Claude、Google PaLM 2 & Gemini、智谱 ChatGLM、百度文心一言、讯飞星火认知、阿里通义千问、360 智脑以及腾讯混元，可用于二次分发管理 key，仅单可执行文件，已打包好 Docker 镜像，一键部署，开箱即用。详见

https://github.com/songquanpeng/one-api

输入：一系列LLM的API keys，即所谓 “渠道”

简而言之，Dify 是用来开发LLM工作流应用的平台。如果Langchain是LLM应用开发的砖头瓦块，Dify就是脚手架。

Windows打开终端，cd 到合适的盘及位置，如D:\Gitpro, 依次运行

gitclonehttps://github.com/langgenius/dify.gitcddify\dockerdockercomposeup-d

第一步git正常执行结果如下

gitclonehttps://github.com/langgenius/dify.gitCloninginto'dify'...remote:Enumeratingobjects:60539,done.remote:Countingobjects:100%(6168/6168),done.remote:Compressingobjects:100%(819/819),done.remote:Total60539(delta5569),reused5602(delta5324),pack-reused54371Receivingobjects:100%(60539/60539),36.13MiB|12.81MiB/s,done.Resolvingdeltas:100%(43500/43500),done.Updatingfiles:100%(4877/4877),done.

按照提示注册用户（本地运行，随便输个邮箱即可），然后登录。

gitclonehttps://github.com/songquanpeng/one-api.gitcdone-apidocker-composeup-d[+]Running26/26✔one-api4layers[⣿⣿⣿⣿]0B/0BPulled82.6s✔d25f557d7f31Alreadyexists0.0s✔1b5b003f9dfbPullcomplete9.3s✔191451707000Pullcomplete69.7s✔a2827533ea71Pullcomplete10.9s✔redis9layers[⣿⣿⣿⣿⣿⣿⣿⣿⣿]0B/0BPulled33.0s✔a3ed95caeb02Pullcomplete0.7s✔7059585c469ePullcomplete4.2s✔782c76bb9e67Pullcomplete0.7s✔706514fbad74Pullcomplete0.9s✔62f9861bf413Pullcomplete17.2s✔d9a5cf315f9bPullcomplete1.2s✔43310c2277ffPullcomplete1.6s✔b3e03532a808Pullcomplete1.9s✔9c59e8378f86Pullcomplete2.5s✔db10layers[⣿⣿⣿⣿⣿⣿⣿⣿⣿⣿]0B/0BPulled244.6s✔558b7d69a2e5Pullcomplete120.0s✔599b67b0dd6aPullcomplete15.3s✔50314d46ce2bPullcomplete23.6s✔494babc92263Pullcomplete57.4s✔02548e6f2dbfPullcomplete61.6s✔a9e5e2637e0dPullcomplete64.5s✔657b198fe6b7Pullcomplete208.8s✔215a2b0eabbfPullcomplete70.8s✔377a4c7a89c5Pullcomplete224.2s✔4bfe599fe218Pullcomplete121.4s[+]Running3/4-Networkone-api_defaultCreated2.6s✔ContainerredisStarted1.9s✔ContainermysqlStarted1.9s✔Containerone-apiStarted1.9s

容器创建成功后，docker desktop里可以看到如下：

总体思路，在one-api中配置若干个LLM大模型（默认你已经有相应的key了），然后在Dify系统配置中，添加OpenAI-API-compatible模型（使用one-api中配好的）。

3.1.1 添加渠道（即LLM key）

点击 “渠道” ---> “添加新的渠道”

以配置DeepSeek为例：

提交后，可以在渠道列表里测试验证是否成功：

获取令牌，点击“复制” 获取到类似如下的Key，备用。

sk-X*******************************************************9

模型供应商选择 OpenAI-API-compatible

OneAPI多创建几个令牌，就可以依次添加如下：

点击系统模型设置，从上一步设置的OpenAI-API-compatible中选择一个作为系统缺省模型：

可以开始聊天了

！