Nas 安装 Open WebUI，使用满血 DeepSeek R1
date
Feb 15, 2025
slug
nas-deepseek
status
Published
tags
大模型
summary
Nas 上部署 DeepSeek 或者任意的大模型，只需要 Docker 一键安装，就可以稳定使用满血的 DeepSeek R1 还支持联网 搜索功能。
type
Post
前言
今天学习在 Nas 上部署 DeepSeek 或者任意的大模型，只需要 Docker 一键安装，就可以稳定使用满血的 DeepSeek R1 还支持联网搜索功能。
本地和 API
在 Nas 用 DeepSeek 可以分为两种，一个是 Nas 纯本地运行，这个需要用到两个工具，
- Ollama 是最著名的本地运行大模型的框架，使用它可以一键运行 DeepSeek、阿里的千问等众多开源的大模型。
- OpenWeb UI 是一个开源的 Web 界面，可以用来管理大模型和大模型进行交互，简洁优雅功能非常齐全。比如在网页和大模型进行对话，使用联网功能，切换不同的大模型使用等等。
可以提前说一下，由于 Nas 的 CPU 和 GPU 性能都比较低，能选择的模型也都很小且速度很慢很慢，Nas 本地跑大模型的学习探索意义会远大于实用性。
第二个就是用 API，我个人会非常推荐。依然使用 Open WebUI 进行交互，不过不是 Nas 本地的，而是 DeepSeek 官方、还有阿里、腾讯、字节、硅基流动等等，提供的满血的 DeepSeek R1 的 API。这几家注册都有送百万 Token，完全足够个人使用。
这样既能用到满血、稳定的 DeepSeek R1，又有联网搜索等高级功能，还能多个随意切换。部署到在家里或公司的 Nas，这样电脑，平板，手机都能方便共同使用，所以比较推荐。
本地运行
Nas 本地运行很简单，直接在 Nas 的 Docker 的项目/Compose 里新建一个，粘贴上 Open WebUI 提供的 Compose 配置立即运行即可，这个 Compose 会运行 Open WebUI 和 Ollama 两个容器。
如果网络拉取镜像非常困难可以把上面 ghcr.io 替换成国内的 ghcr.nju.edu.cn 南京大学镜像。
运行完成后就能通过 3000 端口访问 Open WebUI 后台
在本地运行大模型的话需要先下载，在左下角-设置-管理员设置，模型里选择下载，输入最小的 deepseek-r1:1.5b 选择下载，等待下载完成。
新建对话就可以选择刚下载的 1.5b 模型，速度非常非常非常慢，简单问题两分钟左右才能回答，速度只有 0.28 token/s 左右，几乎不能用，只能说图一乐。（我的 Nas 是 Intel n5105 cpu）
使用 API
用 API 的方式就只需要 Open WebUI 不需要 Ollama，你可以在 Docker 镜像里直接搜索 dyrnq/open-webui 这个 Open WebUI 的镜像运行。
碰到这些运行必填参数可以删掉。
大厂的 API 基本都是注册就送 50 万、100 万，个人使用足够：
- 阿里云百炼（赠送 100 万 token）
- 字节火山引擎（赠送 50 万 token）
- 腾讯云（赠送 50 万 token）
- 硅基流动（赠送额度的不能用于满血 R1 了.....）
- DeepSeek 官方（赠送 10 元额度）
我用下来目前字节的火山比较稳定，就演示下。首先注册登录火山引擎后，直接搜 DeepSeek 就能看到官方出的 R1 调用教程，介绍了使用场景，支持的模型，还有免费的额度。
字节火山方舟里使用 DeepSeek 只需要两步： 创建 API Key 和创建在线推理接入点。
模型这里选择 DeepSeek-R1 满血版，然后确定创建即可。
然后选择 API 调用-第三方 SDK 调用示例就有了需要填的三个参数
- URL：https://ark.cn-beijing.volces.com/api/v3
- API Key：选择 API Key 并复制
- 模型：上面的 ID ep 开头那个
对应的添加到 Open WebUI 的外部连接，保存即可。
注意！这里最好把 Ollama 的 API 给关了，不然可能会很卡，关了就会流畅很多。
现在就能够用字节提供的满血 DeepSeek R1 进行对话。
如果添加硅基流动的，可以不填模型 ID，Open WebUI 支持自动获取所有硅基流动的模型。添加其它服务商提供的 API 基本都一样操作，因为规格都是 OpenAI 类型的接口。
优化和联网
字节模型 ID 很抽象不好分辨，你可以在管理员设置-模型里更改名称。
如果添加多个模型 ID 相同的，Open WebUI 可能会错乱，你可以添加连接的时候 Prefix ID 填一下服务商的名字，比如“阿里”“腾讯”等来区别。
联网搜索需要手动打开，支持的服务很多，其中只有 duckduckgo 不需要配置 API，我用的 tavily 官网注册就有送 1000 次，填写下 token 即可。
另外由于标准问题，OpenWeb UI 还不直接支持 DeepSeek R1 的思维链，你可以添加社区的函数实现。
总结
在 Nas 部署本地 DeepSeek 大模型属于图一乐，但用 Open WebUI 添加免费满血的 API 确实很高实用性。你可以流畅的用到 DeepSeek R1 还能支持联网，同时 Open WebUI 功能齐全自定义程度很高，你很难找到一个免费还拥有这么多功能的客户端。
DeepSeek 开源免费是伟大的，直接让每一个人都能不花钱用上比肩 OpenAI 的推理模型 R1，不需要 200 刀、 20 刀的订阅，DeepSeek 同时也营造了整个 AI 生态。