团队场景下,本地部署的价值是「统一入口 + 数据不出内网」。下面是 Ubuntu 上的最小可用方案。

环境要求

环境要求
图解:环境要求
  • Ubuntu 20.04 及以上
  • 内存 16GB 起(跑 7B 模型),32GB 更稳
  • 磁盘预留 20GB 以上放模型
  • 有独显更好,没有也能跑

安装 Ollama

安装 Ollama
图解:安装 Ollama
curl -fsSL https://ollama.com/install.sh | sh

安装完成后检查服务:

systemctl status ollama<br>ollama --version

拉模型并测试

ollama pull deepseek-r1:7b<br>ollama run deepseek-r1:7b "用三句话介绍你自己"

开放给内网访问

默认只监听本机。要允许内网访问,修改服务配置:

sudo systemctl edit ollama

加入:

[Service]<br>Environment="OLLAMA_HOST=0.0.0.0:11434"

然后重载并重启:

sudo systemctl daemon-reload<br>sudo systemctl restart ollama

安全边界

开放到内网后,务必用防火墙限制来源 IP,不要直接暴露到公网。Ollama 默认没有鉴权,暴露公网等于把算力送人。

sudo ufw allow from 192.168.1.0/24 to any port 11434

团队怎么用

同事在 Chatbox 里把 API 地址填成 http://服务器IP:11434,模型名填 deepseek-r1:7b 即可。

并发高时响应会排队,建议限制同时使用人数,或升级到更大的机器跑 14B/32B。