部署DeepSeek到本地,不担心隐私泄露、服务器繁忙,一次性成功!

泞鹪评科技 2025-02-15 11:30:46

使用过deepseek的朋友都知道,它实在是太强大了,这个横空出世的国产AI大模型,短时间内居然把Chat GPT按在地上摩擦,我们再也不用去等待苹果支持中文的AI,如今,我们有了自家的AI大模型,但是,最近因为热度实在太高,导致官方服务器经常繁忙,回答不了我们的问题,不过呢,现在不用担心了,我们可以把DeepSeek部署到本地电脑,再也不用担心服务器繁忙了。

目前网络上很多关于部署DeepSeek到本地的教程,但是都是些抄袭的文章,根本就不能成功,我单独测试了几天,终于找到最简单、而且可行的部署方案,保证一次性成功。

一、部署思路

1、在本地电脑上安装DeepSeek部署环境,这里用Ollama搭建;

2、利用Ollama环境下载安装DeepSeek R1模型,并安装到本地计算机;

3、DeepSeek大模型安装到本地计算机后,还需要一个前端工具去调用它,否则每次使用都要通过代码去运行,这不是每个人都会的,所以选择Chatbox作为前端调用工具,运用Ollama的API去调用DeepSeek。

二、搭载DeepSeek运行环境:安装ollama

1、搭建DeepSeek安装环境,进入ollama官网:,进入之后,不需要去注册,直接点击下载就可以了,你的电脑是什么平台就选择什么平台的版本。

2、安装Ollama,按照提示完成安装就可以了,安装完成后就会自动运行,并不需要点击图标区运行它,只有Ollama开始运行才能进行下一步操作,否则会出错,大家要注意。

三、下载DeepSeek模型并安装到本地

1、再次进入Ollama官网,找到model,然后选择Deep Seek R1,接着再选择模型体积,这里需要说明一下,要根据自己的电脑具体配置来确定,最重要的是你的电脑C盘空间是否充足,如果你的电脑配置不咋地,那就叫和我一样选择8b,只有5GB左右,而且功能也还可以。

2、选择好版本之后,然后右键点击状态栏的开始图标,在弹出的菜单中选择“终端管理员”,打开终端窗口。

3、回到Ollama网站,复制DeepSeek R1的代码,然后粘贴到终端对话框光标处,然后回车,DeepSeek就开始下载了,等待进度条走到100%就完成安装了,系统默认是安装在电脑C盘。

4、现在,DeepSeek R1模型已经在你的电脑落地生根了,现在还不能和他对话,还需要继续进行部署。

四、部署DeepSeekI前端

1、点击进入Chatbox官网,下载Chatbox并完成安装。

2、进入Chatbox官网之后,同样安装你自己电脑的平台选择适合的版本,下载完成就点击安装,按照提示完成就可以了。

3、点击打开Chatbox,第一次运行会弹出设置窗口,提示你设置API,我们选择第二个选项,“使用自己的API key或者本地模型”;

4、接着再选择Ollama API,然后在“模型”一栏选择已经部署完成的DeepSeek R1就可以了,到现在,整个DeepSeek R1部署就完成了。

温馨提示:到现在这一步,部署已经完成,但是,他还不能进行对话,我们还需要做最后一部设置,大家千万要注意,目前网络上的那些教程,根本就没有告诉大家这样操作,所以导致各种问题发生,造成DeepSeek根本就没法用,或者提问一直不回答,所以,朋友们一定要接着往下看。

五、Ollama变量设置

为什么还要做ollama变量设置,因为我们需要将前端连接上ollama服务器,这样才能顺利的调用本地DeepSeek模型。

1、同时按下“win”+"X",然后在菜单中选择“系统”。

2、进入“系统”设置页面,选择“高级系统设置”,win10和win11有一点不同,但也很好找到“高级系统设置”。

3、点击打开“高级系统设置”,并找到最低端的“环境变量”。

4、在“环境变量中”选择新建两个环境变量,变量的名称和值,一定按照下图设置,包括名称中下划线,它不是间隔符,设置好了以后保存确定就可以了,两个变量分别是:OLLAMA_HOST 和OLLAMA_ORIGINS,值分别是:0.0.0.0,*。

5、变量设置好了以后,重启一下ollama,在状态栏退出ollama,然后再点击运行ollama就可以了。

六、测试一下DeepSeek

到这里才算是真正的完成了DeepSeek的完整部署,现在就可以使用了他了,我们点击运行Chatbox,直接在对话框中输入要提的问题,比如说我要它给我列出最近网络平台关于iPhone的热门话题,稍等片刻之后,DeepSeek就会做出回答了。

七、结语

将DeepSeek R1部署在本地使用,好处还是挺多了,首先就是不用担心使用的人太多,把官方的服务器挤爆,也不用故意去错开使用高峰期,最重要的是,使用过程中的一些隐私数据,再也不用担心被泄露。

DeepSeek R1部署到本地也有一定的弊端,那就是DeepSeek R1模型的数据无法一直保持最新的版本状态,官方有更新,我们又得重新部署一次,操作起来不是很方便,另外就是,目前DeepSeek R1仅仅支持部署到本地电脑,还不能部署到移动端设备,更不用说是Iphone手机了。

0 阅读:1

泞鹪评科技

简介:感谢大家的关注