企业级私有化部署：基于 Ollama 实现 DeepSeek 大模型

显示全部楼层

引言

在当今数据驱动的时代，企业对于数据安全和隐私保护的需求日益增长。为了满足这一需求，越来越多的企业选择将大模型私有化部署在本地环境中，以确保数据的安全性和可控性。本文将详细介绍如何基于Ollama实现DeepSeek大模型的本地化部署，帮助企业构建一个安全、高效的大模型应用环境

1. 为什么选择私有化部署？

1.1 数据安全私有化部署确保所有数据都在企业内部网络中处理，避免了数据外泄的风险。对于涉及敏感信息的企业，这一点尤为重要。

1.2 高性能与稳定性通过本地部署，企业可以根据自身需求配置硬件资源，确保大模型的高效运行，避免因网络延迟或外部服务不稳定导致的性能问题。

1.3 定制化需求私有化部署允许企业根据自身业务需求定制模型，提升模型的适用性和精准度。

2. 基于 Ollama 的 DeepSeek 大模型部署实战

2.1 环境准备

操作系统：Linux（推荐CentOS 7/8）
硬件配置：建议至少 32 核CPU、256GB 内存，以确保大模型的流畅运行。
关闭防火墙：systemctl disable --now firewalld

2.2 安装 Ollama 服务通过以下命令快速安装 Ollama：

curl -fsSL https://ollama.com/install.sh | sh

2.3 下载并运行大模型Ollama 支持多种大模型，推荐使用DeepSeek-r1:14b模型，适合生产环境：

ollama run deepseek-r1:14b

# ollama run deepseek-coder-v2:16b

对于测试环境，可以选择较小的模型，如Qwen2:0.5b：

ollama run qwen2:0.5b

2.4 模型管理与常用命令

列出所有模型：ollama list
列出正在运行的模型：ollama ps
删除模型：ollama rm <模型名称>

3. Docker 与 Open WebUI 的集成

3.1 安装 Docker通过以下步骤安装 Docker 并配置镜像加速器：

yum install yum-utils -y
cd /etc/yum.repos.d && wget https://download.docker.com/linux/centos/docker-ce.repo
yum clean all
yum makecache
yum install docker-ce -y
systemctl enable --now docker

3.2 配置镜像加速器编辑/etc/docker/daemon.json文件，添加以下内容：

{
 "registry-mirrors": [
  "https://registry.hub.docker.com",
  "http://hub-mirror.c.163.com",
  "https://mirror.baidubce.com",
  "https://docker.mirrors.sjtug.sjtu.edu.cn",
  "https://docker.nju.edu.cn"
 ]
}

重启 Docker 服务：

systemctl restart docker

3.3 部署 Open WebUI通过Docker部署Open WebUI，方便用户通过Web界面与大模型交互：

dockerrun-d--network=host-vopen-webui:/app/backend/data-eOLLAMA_BASE_URL=http://127.0.0.1:11434--nameopen-webui--restartalwaysghcr.io/open-webui/open-webui:main

4. 解决常见问题

4.1 Open WebUI 识别不到本地模型确保 Ollama 服务已启动，并检查 OLLAMA_BASE_URL 配置是否正确。

4.2 页面刷新白屏问题拉取低版本 Open WebUI 镜像（如v0.4.8）以解决页面刷新白屏问题：

dockerrun-d--network=host-vopen-webui:/app/backend/data-eOLLAMA_BASE_URL=http://127.0.0.1:11434--nameopen-webui--restartalwaysswr.cn-north-4.myhuaweicloud.com/ddn-k8s/ghcr.io/open-webui/open-webui:v0.4.8

4.3 大模型回复速度慢确保服务器资源充足，建议至少 32 核 CPU、256GB 内存。对于较小的硬件配置，建议使用较小的模型。

5. 总结

通过本文的实战指南，企业可以轻松实现 DeepSeek 大模型的本地化私有部署，确保数据安全的同时，提升大模型的运行效率。私有化部署不仅满足了企业对数据安全的需求，还为定制化应用提供了更多可能性。未来，随着大模型技术的不断发展，私有化部署将成为企业智能化转型的重要基石。