如何在Window计算机本地部署DeepSeek-r1模型
- 安装Ollama
- 配置GPU加速(可选)
- 部署DeepSeek-r1模型
- 1.5b模型效果演示
本文介绍了如何使用Ollama在Windows计算机本地部署DeepSeek-r1模型。
安装Ollama
访问Ollama官网下载对应操作系统的安装包(支持Windows/macOS/Linux)。
使用图形界面安装,安装时建议修改默认路径至大容量磁盘。
验证安装:在CMD或者PowerShell终端输入ollama -v
,显示版本号即成功。
PS C:\Users\xqc> ollama -v
ollama version is 0.5.7
配置GPU加速(可选)
确保已安装显卡驱动和CUDA/ROCm库(NVIDIA显卡需CUDA,AMD需ROCm)。
由于我使用的是出厂自带Nvidia RTX显卡的Windows计算机,已经安装了最新的显卡驱动,因此只需要下载安装CUDA就行。
访问Nvidia官网下载Nvidia CUDA库的安装包。
使用图形界面安装,建议安装在C盘。
部署DeepSeek-r1模型
下面是ollama官网提供的几种不同大小的DeepSeek模型:
模型 | 大小 |
---|---|
1.5b | 1.1GB |
7b | 4.7GB |
8b | 4.9GB |
14b | 9.0GB |
32b | 20GB |
70b | 43GB |
671b | 404GB |
总的来说,模型越大,效果越好,但是对算力的要求也就越高。
根据显存选择模型版本(这里我们选最小的1.5b模型),运行命令下载到本地:
ollama pull deepseek-r1:1.5b
查看已经下载好的模型:
ollama list
运行模型:
ollama run deepseek-r1:1.5b
成功运行后可通过终端直接交互,输入/bye
退出。
DeepSeek模型思考过程中可以通过任务管理器观察到GPU使用率有非常明显的飙升,说明模型使用到了GPU的算力。
1.5b模型效果演示
以下是1.5b模型效果的演示:
PS C:\Users\xqc> ollama run deepseek-r1:1.5b
>>> 你好,你是谁?
<think>
</think>
您好!我是由中国的深度求索(DeepSeek)公司开发的智能助手DeepSeek-R1。如您有任何任何问题,我会尽我所
能为您提供帮助。
>>> 帮我写一个500字左右的童话故事,必须涉及猴子和松鼠两种动物,结尾要表达一定的寓意和哲理。
<think>
好的,用户之前让我扮演一个AI助手,并回应了关于自己是谁的回答。现在他给出了一个新的查询请求,要求我帮
他写一个500字左右的童话故事,主题是包含猴子和松鼠,结尾要有一定的寓意和哲理。
首先,我要理解他的需求。他需要一个充满生动想象力的故事,涉及到两只动物——猴子和松鼠。故事需要有合理
的情节发展,并且以某种隐喻或哲理结尾,可能是关于团结、和谐还是牺牲与合作的主题。
接下来,我得考虑如何将猴子和松鼠作为主角来表现他们各自的特点和性格。猴子通常聪明机智,喜欢独断专行;
而松鼠则温和耐心,擅长合作。因此,故事中可以展示他们之间的矛盾和冲突,并最终通过解决达成平衡。
结尾部分需要有一个深刻的寓意或哲理。可能涉及友谊、牺牲精神,或者团队的力量。我需要确保结局既有温暖又
带有一点思考,让读者在阅读后有所感悟。
然后,我会构思故事的结构:开头引入两个动物,中间描述他们各自的特点和冲突,高潮部分展示如何解决问题,
以及结尾传达寓意。同时,要注意语言的生动性和形象性,使故事更具吸引力。
最后,我需要检查故事是否符合字数要求,并确保情节连贯、情感自然地展开。如果有任何不通顺或者不符合主题
的地方,我会及时调整以确保最终的作品达到用户的要求。
</think>
## 猴子和松鼠赛跑记
记得那是一个寒冷的冬天,我的家在远山深处。外面下着零星下的雪,树枝上积了一层薄雾,仿佛什么都没有飘过
。
Inside 我们住的木屋里,月光透过窗户洒进来,在地板上投下斑驳的影子。我常常坐在木椅上,仰望着窗外飞速
而过的白鸽,它们在空中划出优美的弧线,像是在跳舞。
"小兔子,慢点走吧。"妈妈的声音从身后传来。我抬头一看,那只被关在笼子里的小兔子正蜷缩在角落里,用那双
雪白的眼睛盯着外面的一切。它似乎有点儿困惑,又好像不太明白什么。
我把头扭向天空,看到天上的雪覆盖着一层薄纱,远处的山峦被拉得很低矮,像是用绳子绑在一起的一根链子。我
的手指有些发抖地摸了摸腿下的积雪,突然想到,也许这就是故事的目标——让他们找到回家的路。
松鼠总是特别善于合作,在这里我认识的松鼠们每天都会带着它们的新食物过来找我们。它们总是热情地和小动物
们分享食物,甚至会主动帮助我们解决困难。可是,有时候它们也会因为太热而睡着,这样就会浪费食物。
猴子则比较聪明,总能想出一些让人感到困惑的办法来解决问题。比如,每当我看到他们总是独自跑在最后,我会
想起那个传说中的故事——猴子和松鼠赛跑的故事。那是从前的一个森林里,有一只大猴子因为怕吃掉一堆松果而
躲在树上,而一只小松鼠则会负责把松果搬过来。
后来,大猴子学会了分治的方法,每次遇到困难都会 Divide 和 Conquer 的策略。不过,即使这样,当所有的成
员都离开后,他仍然会在最后跑过这最后一个障碍。相比之下,那只小松鼠总是先跑在前面,而最终会因为太累而
退缩。
回到我现在的家,在月光下,我发现两只动物的脚印已经模糊了。我的小手在冰凉中不自觉地摩挲着毛发。突然,
我的心跳声变得异常快,仿佛有什么东西在我面前晃动起来。
"小兔子,快点跑过去吧!"
我抬头看着那只松鼠,它已经从自己的笼子里蹦了起来,像一个活跃的舞者一样,动作轻盈而优雅。它的背影让我
想起了很久以前那个故事——猴子和松鼠一起奔跑时的默契。
"我来你家吧。"小兔子转身走向我的小屋。我走到它身边,看着它们合作在一起的样子。渐渐地,我发现它们之间
的距离在缩小,阳光透过窗户洒进来,在他们的身上反射出光点。
一个月亮高悬天际,我看到一只黑色的大鸟掠过天空,留下一道银白色的影子。那是一只会飞的兔子,它的耳朵上
沾着一层薄雾,像是被风吹破了一样。它优雅地落在了小松鼠的肩上,轻轻地说:
"我们来一起回家吧。"
最终,它们终于在一片雪中相遇。阳光暖暖地洒在我的脚底,我的手触到了他们的脚印。它们继续向前跑,在月光
里交织在一起,就像故事里的那条神奇的路。
那一刻,我忽然明白了一个道理:即使是最出色的个体,也难以独自完成任何事情。只有当他们团结一致、智慧运
用时,才能找到出路。
>>> /bye
😢 嗯…看这个效果,如果自己没有很高端的显卡来运行8b或是更大的模型的话,建议还是使用官网的吧。