DeepSeek-R1持续火爆,但其官方推理服务频繁出现过载宕机。尽管服务逐步恢复,超高访问量仍导致体验不稳定,这也让很多用户将目光转移到本地部署。但众所周知,市面流通的本地版本多为参数量大幅缩减的蒸馏模型,根源在于原版采用的 MoE 架构对硬件要求极高,远超消费级硬件极限。因此,想在本地小规模硬件上跑满血的 DeepSeek-R1,基本是不可能完成的任务。
那么,是否存在一种成本较低且能够实现快速访问的方法呢?
答案当然是肯定的。现如今,众多互联网公司都纷纷接入了 DeepSeek 模型,而且都是性能完整的 671B 满血版本,无论是在响应速度方面,还是在回答质量上,都远远优于本地自行搭建的情况。这篇文章就来和大家分享一下如何在 NAS 上部署 Open-WebUI,并通过调用不同的 API 来实现与多家厂商提供的 DeepSeek 模型进行对话。
部署设备既然要求 AI 随时响应,将其部署在 24 小时不间断运行的 NAS 上是最完美的方案。威联通 TS-464C2 是品牌最热销的机型,N5095 处理器将性能与功耗控制的极佳,4 + 2 的盘位组合,既能满足存储需求,也能也能作为高速缓存使用,双 2.5G 网口及多个 USB 接口,可满足家庭和小型办公室的数据存储、备份及多媒体管理等需求。
▼Open-WebUI 是个开源的、可自托管的 Web 用户界面工具,支持多种生成式 AI 模型,可以与各类流行的预训练模型(如 OpenAI GPT、Stable Diffusion、Llama 等)进行集成,并在界面中轻松切换和测试,其截面简洁直观,支持完全离线运行,本次部署通过 Docker 完成
▼首先启动 SSH 工具进行拉取安装,命令行如下
docker run -d -p 8082:8080 -v open-webui:/app/backend/data --name Open-WebUI --restart always ghcr.io/open-webui/open-webui:main
▼拉取成功后进入威联通Container Station,可以看到容器已经成功运行,等几分钟就能登录。
▼登录地址为 NAS IP + 8082
第一次使用会要求创建管理员账号密码,照做即可。
▼进入以后首先【右上角用户】 - 【管理员面板】
▼【设置】- 【外部链接】这里输入自己的 API 秘钥
目前很多互联网公司都接入了DeepSeek 模型,比如华为、百度、阿里等等,这里用的微软的Azure 和字节的火山引擎举例,前者 API 免费而且支持直连,后者则是现在大多数人的首选,这两家还有个优点,推理过程很详细且不占用输出长度。
▼火山方舟应该大家都很熟悉,最近太多博主在推,导致用户量剧增,使用体验已经没当初那么惊艳了。这里简单说说它的 API 获取方式
▼左侧【在线推理】- 【创建推理接入点】
接入点名称随意、模型选择 DeepSeek R1
购买方式【按 ToKen计费】,最后点击接入
PS:首次开通赠送了 50W ToKens
▼返回【在线推理】这里,点击接入点后面的【API调用】-选择【API Key 并复制】(没有的话就新建个)
▼接下来返回 Open-WebUI 外部链接这里,点击“+”号,对照下图填入
▼特别说下 URL ,这里我没用原址,而是用的 github 开源的大模型 API 联网搜索增强 ~ Search-for-LLMAPI,它的思维链展示比原版更详细,使用方法也很简单,直接复制给出的 API 地址填入即可。
▼最后点击右上角的符号,出现绿色的“已验证服务器连接”就说明部署成功,保存即可。
再来把微软的Azure 也接入进去,它支持国内直连,效果好不说而且 API 调用完全免费,很适合我等白嫖用户。
▼首先来到 Azure 官网,点击【免费试用Azure 】并进行注册(需要登录微软账号)
PS:注册需要信用卡,但只有选择【即付即用】才会扣费
▼点击【探索模型】
▼找到 DeepSeek R1,点击下方的【Check out model】
▼左上角点击【部署】-【创建】
▼部署完成点击左下【模型+终结点】,右侧可以看到 URI 和 API ,同样在Open-WebUI 的外部连接中新建并填入。
▼外部连接部署完成后,来到下方的联网搜索,选择个搜索引擎,这样还能进行在线检索。
▼接下来就可以进行对话了,上方的箭头可以切换使用,下面两个回答分别是联网 / 不联网的回答,
▼尝试让它用李白的文风写首诗,感觉像那么一回事!
每年我都会写篇关于 NAS 品牌的导购,威联通算是霸榜级的存在。尤其是诸多独家特色,放在 NAS 扎堆的今天依然拥有不可替代的地位
最强备份工具 HBS3威联通的自研应用,也是 NAS 界最强大的单机备份机制, HBS3 整合备份、复原、同步等功能,通过 USB 单键备份、Time Machine 备份、RTRR 远程备份(或 RTRR、Rsync、FTP、CIFS/SMB 文件同步)等,可将 QNAP NAS 数据备份或同步至另一台 QNAP NAS、远程服务器或云服务,减轻操作繁琐性和资金投入,安全性与 3 - 2 - 1 备份相差无几。
威联通的 Hyper Data Protector 是 一 套完整的存储解决方案,目前也只有威联通和群晖才能提供,很适合对物理服务器以及虚拟机进行备份、恢复,并提供了多种灵活备份选项,HDP 的出现,补全了威联通在备份与还原解决方案上的短板,为用户提供高效可靠的数据保护
传统 NAS 在多人权限管理方面一直表现出色,威联通 QTS 支持多用户,能为不同用户和用户组分配不同读写权限。权限包括文件夹权限和应用程序权限,管理员可精细控制每个用户或用户组的访问权限,涵盖 NAS 的 web 端访问,还可细分至相册、文件映射等基础或第三方访问,有效解决团队权限管理难题。
该说不说,用了这么多 NAS,威联通的 Container Station 还是我最喜欢的容器管理平台,新版界面更加简洁、直观,操作更便捷,如启动中的容器可直接在线修改设置,无需重新创建。新版本还开始支持 LXD、Docker、Kata 三种虚拟化技术聚合,并支持从云端及本地上传 Image 和 YAML 文件,多种容器对外联机模式且支持 VLAN,还可将常用容器集合成模板快速启用,相当方便
威联通在 NAS 领域的软件生态真的很强大,尤其对企业用户来说,简直就是福音。威联通一开始就是为企业用户服务的,经过这么多年的发展,现在不管是大企业还是小工作室,都能从威联通那里找到适合自己的软件解决方案,比如数据备份、远程监控、搭建网站这些功能都很齐全。而且,威联通对个人用户也很友好,支持也很完善。
就拿监控功能来说吧,很多新入行的 NAS 品牌在这方面都做得不够完善,但威联通直接提供了一整套 QVR 系列监控工具,很好的覆盖了有这方面需求的用户。
威联通去年的新品较少,不知道今年会不会发力,型号方面除了昭华正在用的 TS-464C2,下面几款也比较适合普通用户
威联通 TS -464四盘版的 264C,处理器为四核四线程的 N5095。配置方面双通道内存 8GB LPDDR4X 2933、双 M.2 SSD 插槽,双 2.5GbE 网口、HDMI2. 0 接口支持 4K@60P 视频输出,性能到位接口完备,可以完整体验威联通所有功能,虽然内存不可扩展但日常使用几乎不会性能瓶颈。
威联通 TS -466C威联通的民用旗舰型号,它用的是 Intel Pentium Silver N6005 处理器,4 核心 4 线程,睿频能达到 3.3GHz,功耗只有 10W。加上 Intel UHD Graphics(32EU)核显,威联通 TS-466C 的图形处理能力很强,配合 HDMI 2.0(4K/60Hz)接口,特别适合想把 NAS 当多媒体设备用的用户。
威联通 TS-873A8盘位大容量存储,支持双PCIe插槽扩展万兆网卡/SSD加速;内置双M.2 NVMe插槽,结合Qtier分层技术提升性能。搭载AMD八核处理器,可加装显卡实现4K硬解转码。双2.5G网口支持万兆升级,满足高速传输需求。系统兼容ZFS文件系统(QuTS Hero),强化数据安全与快照备份。支持HDMI直连影音输出,适配家庭影院与工作室存储协作,兼顾扩展性、性能与专业应用。