本地部署大语言模型指南

这里选用Ollama+QwQ32b作为本地大模型运行的基础，如果没有并发需求可以选用LM Studio，支持m系列芯片的MLX框架，生成token速度比Ollama快50%，但缺点是不支持并发。

本文以Mac OS部署Ollama+QwQ32B为例：

---

一、安装 Ollama

1. 官网下载安装

访问Ollama 官网，下载 macOS 版本安装包。安装时需将应用拖入「应用程序」文件夹，并输入系统密码完成安装。

2. 验证安装

打开终端输入以下命令，若显示版本号（如 0.6.3 ），则安装成功：

ollama --version

---

二、本地运行 QwQ-32B 模型

1. 下载模型

在终端输入以下命令，模型文件约 19GB，需等待下载完成：

ollama run qwq

技术说明：

默认下载的版本是经过量化的Q4版本，量化简单理解就是将高精度模型参数转换为低精度（如 16 位浮点转 4 位整数），以减少计算资源消耗并保持模型性能的技术，性能损失约10%左右。实测如采用Q6量化，内存占用将显著增加。

2. 验证与交互

下载完成后，终端会进入交互模式（显示 >>> ），可直接输入文本测试模型响应：

---

三、拓展OLLAMA上下文

1. 配置步骤

echo'export OLLAMA_CONTEXT_LENGTH=16384'>> ~/.zshrc
# 永久生效配置（写入 shell 配置文件）
source~/.zshrcollama serve
# 重启终端并应用配置

2. 验证配置

echo$OLLAMA_CONTEXT_LENGTH
# 检查环境变量是否生效（需提前设置）
# 返回空值时使用默认值2048
# 成功设置示例输出：16384

3. 注意事项

• 环境变量优先级高于模型默认配置

• 同时存在 Modelfile 的 num_ctx 和环境变量时以后者为准

• 拓展上下文会显著增加内存占用

---

四、dify调用本地模型

设置路径：

1，Dify-插件-安装Ollama

2，插件设置-模型供应商-添加模型

---

五、安全问题

风险提示：Ollama 默认开放 11434 端口且无身份验证，攻击者可直接访问服务窃取数据或执行恶意操作。

防护建议：

1. 修改配置限制端口访问范围（如绑定 127.0.0.1）

2. 启用 API 密钥或 IP 白名单认证

3. 及时更新至安全版本（如 0.1.47+）