前言
自从22年年底开始,人工智能开始从实验室一下子走入了普通人的视野中,chatgpt像一颗石子投入水中,溅起了一波又一波的涟漪。我们都通过各种方式试用大预言模型和机器进行对话或者提问。随着大语言模型的出现,各个类型的大模型也开始出现,文字生成图片,文字生成视频,文字生成音乐,文字生成3d模型等等。但当我们深入了解后会发现,很多网站的模型使用要会员,或者会受网络影响,我们很难自己直接使用自己的模型,加之受制于电脑的配置,更难训练自己的模型。随着时间的推移,时间来到了2025年,一个名为deepseek的大语言模型的出现,被各个科技行业的大佬所所推崇,一时间,deepseek迅速进入人们的视野中。Deepseek天然自带的开源,mit免费商用协议和本地化部署的模式,让我们每一个普通人都有了直接接触大模型的机会。而可部署在普通电脑上的1.5B版本的加持,使得我们的普通电脑都可以运行deepseek大语言模型,而不是单纯使用网上的api或者网页。
上面说了这么多,相信您也迫不及待的想要在自己的电脑上部署一个完全属于自己的大语言模型了吧。如果您有这个想法,但有无从下手,那么本专栏就很适合您,本专栏会详细介绍deepseek的新手级安装部署的步骤和方法以及需要避开的坑。本专栏在引导您入门deepseek之后,也会逐步讲解高级功能,讲解其中的原理甚至源码,让您慢慢对deepseek入门之后并精通掌握。
话不多数,先来完成部署的任务吧!
一.概述
Deepseek已有直接使用的在线版本,为什么要费劲本地化部署呢,主要为了达到以下使用效果:
- 运行速度更快:不用依赖网络传输,系统反应更迅速,处理大规模数据更流畅不卡顿。
- 数据更加安全:本地部署让数据留在你的服务器上,不用担心数据泄露和信息安全问题。
- 功能灵活定制:可以根据你的个人需求或企业需求,自由调整和优化系统,满足你的独特要求。
- 掌控力度更大:系统由你完全管理,随时维护和升级,不用担心外部服务中断或变更的影响。
二.安装步骤
1.下载ollama安装包
在浏览器中输入ollama官网下载地址:https://ollama.com/download,选择当前电脑操作系统对应的安装包进行下载。
注意:官网下载速度很慢、大几个小时是正常的。可以通过迅雷等渠道下载、或者找别人已经下载好的安装包,我先后下载了v0.5.7和v0.5.11,有需要的可免费提供。
2.安装ollama
双击已下载的OllamaSetup.exe文件,在弹出安装页面点击“install”进行安装。
安装过程如下图所示:
安装成功后ollama图表会自动显示在电脑右下角系统托盘中,此时输入cmd,在运行命令中输入ollama -v ,可以查看当前成功安装版本。
3.本地部署deepseek-r1模型
访问ollama官网 (https://ollama.com/search)的model菜单中选择deepseek-r1,选择当前电脑匹配的版本
4.选择模型
在下图的右侧点击复制大模型安装命令,根据自己电脑GPU情况选择,对电脑要求最低的是1.5b,普通电脑可以安装7b和14b的,如下图:
cmd
在运行窗口中输入cmd,当前用户直接点击“”确定“或按Enter进入。若想以管理员身份运行(针对当前用户权限不足情形),输入cmd后,按ctrl+shift+enter进入即可:
ollama run deepseek-r1:7B
运行部署大模型,复制在deepseek-r1中复制的版本,如ollama run deepseek-r1:7B, 若之前未部署过,第一次运行会自动下载并部署,并显示最新进度,部署完成7b版本,当时用了半个多小时。
部署成功会显示success,进度显示100%,此时即可进行对话使用,如下图所示;但是这种使用方式不够友好和美观,也难以保存历史记录,所以接下来讲介绍可视化软件chatbox的安装和配置。
三.安装使用Chatbox
1.下载
windows系统点击免费下载,将目前最新版本Chatbox-1.9.8-Setup.exe下载保存。
2.安装
2.1 如果等待几秒下载没开始,则点击手动下载按钮,正常一两分钟即可下载成功。
2.2.下载成功后,双击进行安装,安装选项默认即可,点击下一步。
2.3.安装位置默认C盘,如果C盘空间不多,可以点击“浏览”选择其他盘进行安装。
2.4.安装成功,点击“完成”即可。
3.选择本地模型
在弹出页面中点击“使用自己的API Key或本地模型”
4.在弹出列表中选择Ollama API
5.保存
在弹出的设置页面,基本都用默认项即可,若之部署了一个deepseek模型,会直接显示在模型选择框中;如果部署了多个deepseek模型,则下拉选择并保存。
四.试用
在设置好的对话框中,就可以自由提问、让它当你的私人智慧小助理啦。
上述安装的Chatbox为我们和deepseek提供了一个直观方便的本地对话交流页面,但是在体验友好性和知识库训练方面,还得看Cherry Studio 和 anything LLM。下篇文章会写一篇关于知识库训练的文章,到时候和将Cherry Studio 和 anything LLM使用效果做个对比分析。