主题模式
Are you an LLM? You can read better optimized documentation at /ai/homelab/nas-ollama.md for this page in Markdown format
在群晖 Synology / 个人 NAS 上一键 Docker 部署本地大模型 (Ollama + Open WebUI)
随着开源大模型(如 DeepSeek-R1、Llama 3、Qwen 2.5)的性能越来越强,本地部署 AI 已经成为极客和 Homelab 玩家的标配。
如果家里有一台 24 小时开机的 群晖(Synology) 或其他自建 NAS(如 Unraid、威联通),直接在 NAS 上部署本地 AI 是最完美的选择。它能让你的数据绝对保密,并且可以通过局域网让家里的所有电脑、手机共享同一个 AI 助手,省去了为每个设备单独配置运行环境的麻烦。
本文将带你手把手在群晖 DSM 7.2+(使用自带的 Container Manager,即 Docker)上一键搭建 Ollama(大模型运行框架) + Open WebUI(极美交互界面)。
🧭 硬件配置与准备工作
大模型本地运行非常消耗硬件资源,请在配置前确认你的 NAS 硬件:
- CPU 与内存 (RAM):
- NAS 必须为 x86 架构(使用 Intel 或 AMD 处理器,群晖 ARM 架构如 DS223/DS120j 不推荐)。
- 内存至少 8GB 起步(若想流畅运行 7B/8B 级别的模型,建议将内存升级至 16GB 或以上)。
- GPU 显卡直通(可选,非必须):
- 如果你的群晖插了英伟达(Nvidia)独立显卡,可以开启 Docker 显卡直通(GPU Passthrough)实现纯硬件解码加速。
- 如果没有独显,系统会默认使用 CPU 渲染(出字速度较慢,但依然可用,推荐 1.5B 或 8B 的轻量蒸馏模型)。
🐳 第一步:在群晖上部署 Ollama 服务
1. 创建本地映射文件夹
- 打开群晖的 File Station。
- 在
docker文件夹下新建一个子文件夹,命名为ollama(用于存放下载的庞大模型权重文件,防止容器重建后数据丢失)。
2. 在 Container Manager 中拉取并创建容器
- 打开 Container Manager -> 点击左侧的 “注册表 (Registry)”。
- 搜索
ollama/ollama,双击下载最新版(latest)镜像。 - 下载完成后,在“映像”中选中它,点击 “启动 (Run)”。
- 常规设置:
- 容器名称:
ollama。 - 勾选 “启用自动重新启动”(防止 NAS 重启后容器关机)。
- 对于有独显的用户:勾选底部的 “使用高权限运行容器 (Privileged)” 并按需映射 GPU 设备。
- 容器名称:
- 高级设置:
- 端口设置:新增本地端口
11434映射容器端口11434(这是 Ollama 的默认 API 端口)。 - 存储空间设置 (Volume):添加文件夹,选择你刚刚在 File Station 创建的
/docker/ollama,装载路径填入:/root/.ollama。
- 端口设置:新增本地端口
- 点击下一步并完成创建。
3. 下载大模型到 NAS
容器启动后,我们需要在控制台里让它拉取模型权重(以最火的 DeepSeek-R1 8B 蒸馏版 为例):
- 在 Container Manager 中点击 “容器 (Container)” -> 选中
ollama-> 点击上方的 “操作” -> “新增终端机 (Terminal)”。 - 在终端窗口中,输入命令:bash
ollama run deepseek-r1:8b - 回车后,Ollama 会自动从官网下载 DeepSeek-R1 8B 模型。下载完成后,你甚至可以直接在这个黑色的终端窗口中与模型对话。
🎨 第二步:部署 Open WebUI 交互面板
Open WebUI 能给你的本地 AI 装上媲美 ChatGPT 的精致图形化界面。
1. 创建本地文件夹
在群晖 File Station 的 docker 目录下新建名为 open-webui 的子文件夹。
2. 创建 Open WebUI 容器
- 在 Container Manager 的“注册表”中搜索
ghcr.io/open-webui/open-webui并双击下载。 - 下载完成后选中,点击“启动”。
- 常规设置:命名为
open-webui,开启自动重新启动。 - 高级设置:
- 端口设置:本地端口填写
3000,映射容器端口8080。 - 存储空间设置:添加文件夹选择
/docker/open-webui,装载路径填入:/app/backend/data。 - 环境设置 (Environment):极其关键的一步,需要让 Open WebUI 能够连接到我们刚刚部署的 Ollama。
- 添加变量:
OLLAMA_BASE_URL。 - 值:
http://你的NAS局域网IP:11434(例如http://192.168.1.100:11434,千万不要填localhost,因为它们在不同的 Docker 虚拟网络里)。
- 添加变量:
- 端口设置:本地端口填写
- 点击下一步完成创建。
💻 第三步:全家共用与外网远程访问
现在,在你的手机、iPad 或电脑浏览器中输入 http://你的NAS_IP:3000,即可打开精美的对话界面。
- 首次注册:第一个注册的账号将自动成为该系统的超级管理员。
- 开始对话:在顶部下拉菜单中选择你已经下载好的
deepseek-r1:8b,点击即可展开模型的“思维链 (Thought)”进行深度逻辑推理。
🌍 外网远程访问:
如果你在外面出差,也想使用家里 NAS 的大模型:
- 安全异地组网:使用 Tailscale,详情参考 Tailscale 异地组网实战。
- 免公网内网穿透:使用 Cloudflare Tunnel 绑定独立域名并套上安全证书,参考 Cloudflare Tunnel 搭建教程。
💬 总结
在个人 NAS 上部署 AI 是 Homelab 的终极玩具之一。数据不出网关、0 订阅费用,且全家设备只需一个网页即可无缝接入。
- 下一步推荐:在多台电脑间无缝访问本地大模型?去看看我们的 Tailscale 与 ZeroTier 选型指南。
- 更多 Docker 技巧:参考 Docker Compose 常用服务模板合集 解锁更多好玩的服务。
