如何在Window计算机本地部署DeepSeek-r1模型

news2025/2/6 16:02:58

如何在Window计算机本地部署DeepSeek-r1模型

  • 安装Ollama
  • 配置GPU加速(可选)
  • 部署DeepSeek-r1模型
  • 1.5b模型效果演示

本文介绍了如何使用Ollama在Windows计算机本地部署DeepSeek-r1模型。

安装Ollama

访问Ollama官网下载对应操作系统的安装包(支持Windows/macOS/Linux)。

使用图形界面安装,安装时建议修改默认路径至大容量磁盘。

验证安装:在CMD或者PowerShell终端输入ollama -v,显示版本号即成功。

PS C:\Users\xqc> ollama -v
ollama version is 0.5.7

配置GPU加速(可选)

确保已安装显卡驱动和CUDA/ROCm库(NVIDIA显卡需CUDA,AMD需ROCm)。

由于我使用的是出厂自带Nvidia RTX显卡的Windows计算机,已经安装了最新的显卡驱动,因此只需要下载安装CUDA就行。

访问Nvidia官网下载Nvidia CUDA库的安装包。

使用图形界面安装,建议安装在C盘。

部署DeepSeek-r1模型

下面是ollama官网提供的几种不同大小的DeepSeek模型:

模型大小
1.5b1.1GB
7b4.7GB
8b4.9GB
14b9.0GB
32b20GB
70b43GB
671b404GB

总的来说,模型越大,效果越好,但是对算力的要求也就越高。

根据显存选择模型版本(这里我们选最小的1.5b模型),运行命令下载到本地:

ollama pull deepseek-r1:1.5b

查看已经下载好的模型:

ollama list

运行模型:

ollama run deepseek-r1:1.5b

成功运行后可通过终端直接交互,输入/bye退出。

DeepSeek模型思考过程中可以通过任务管理器观察到GPU使用率有非常明显的飙升,说明模型使用到了GPU的算力。

1.5b模型效果演示

以下是1.5b模型效果的演示:

PS C:\Users\xqc> ollama run deepseek-r1:1.5b
>>> 你好,你是谁?
<think>

</think>

您好!我是由中国的深度求索(DeepSeek)公司开发的智能助手DeepSeek-R1。如您有任何任何问题,我会尽我所
能为您提供帮助。

>>> 帮我写一个500字左右的童话故事,必须涉及猴子和松鼠两种动物,结尾要表达一定的寓意和哲理。
<think>
好的,用户之前让我扮演一个AI助手,并回应了关于自己是谁的回答。现在他给出了一个新的查询请求,要求我帮
他写一个500字左右的童话故事,主题是包含猴子和松鼠,结尾要有一定的寓意和哲理。

首先,我要理解他的需求。他需要一个充满生动想象力的故事,涉及到两只动物——猴子和松鼠。故事需要有合理
的情节发展,并且以某种隐喻或哲理结尾,可能是关于团结、和谐还是牺牲与合作的主题。

接下来,我得考虑如何将猴子和松鼠作为主角来表现他们各自的特点和性格。猴子通常聪明机智,喜欢独断专行;
而松鼠则温和耐心,擅长合作。因此,故事中可以展示他们之间的矛盾和冲突,并最终通过解决达成平衡。

结尾部分需要有一个深刻的寓意或哲理。可能涉及友谊、牺牲精神,或者团队的力量。我需要确保结局既有温暖又
带有一点思考,让读者在阅读后有所感悟。

然后,我会构思故事的结构:开头引入两个动物,中间描述他们各自的特点和冲突,高潮部分展示如何解决问题,
以及结尾传达寓意。同时,要注意语言的生动性和形象性,使故事更具吸引力。

最后,我需要检查故事是否符合字数要求,并确保情节连贯、情感自然地展开。如果有任何不通顺或者不符合主题
的地方,我会及时调整以确保最终的作品达到用户的要求。
</think>

## 猴子和松鼠赛跑记

记得那是一个寒冷的冬天,我的家在远山深处。外面下着零星下的雪,树枝上积了一层薄雾,仿佛什么都没有飘过
。

 Inside 我们住的木屋里,月光透过窗户洒进来,在地板上投下斑驳的影子。我常常坐在木椅上,仰望着窗外飞速
而过的白鸽,它们在空中划出优美的弧线,像是在跳舞。

"小兔子,慢点走吧。"妈妈的声音从身后传来。我抬头一看,那只被关在笼子里的小兔子正蜷缩在角落里,用那双
雪白的眼睛盯着外面的一切。它似乎有点儿困惑,又好像不太明白什么。

我把头扭向天空,看到天上的雪覆盖着一层薄纱,远处的山峦被拉得很低矮,像是用绳子绑在一起的一根链子。我
的手指有些发抖地摸了摸腿下的积雪,突然想到,也许这就是故事的目标——让他们找到回家的路。

松鼠总是特别善于合作,在这里我认识的松鼠们每天都会带着它们的新食物过来找我们。它们总是热情地和小动物
们分享食物,甚至会主动帮助我们解决困难。可是,有时候它们也会因为太热而睡着,这样就会浪费食物。

猴子则比较聪明,总能想出一些让人感到困惑的办法来解决问题。比如,每当我看到他们总是独自跑在最后,我会
想起那个传说中的故事——猴子和松鼠赛跑的故事。那是从前的一个森林里,有一只大猴子因为怕吃掉一堆松果而
躲在树上,而一只小松鼠则会负责把松果搬过来。

后来,大猴子学会了分治的方法,每次遇到困难都会 Divide 和 Conquer 的策略。不过,即使这样,当所有的成
员都离开后,他仍然会在最后跑过这最后一个障碍。相比之下,那只小松鼠总是先跑在前面,而最终会因为太累而
退缩。

回到我现在的家,在月光下,我发现两只动物的脚印已经模糊了。我的小手在冰凉中不自觉地摩挲着毛发。突然,
我的心跳声变得异常快,仿佛有什么东西在我面前晃动起来。

"小兔子,快点跑过去吧!"

我抬头看着那只松鼠,它已经从自己的笼子里蹦了起来,像一个活跃的舞者一样,动作轻盈而优雅。它的背影让我
想起了很久以前那个故事——猴子和松鼠一起奔跑时的默契。

"我来你家吧。"小兔子转身走向我的小屋。我走到它身边,看着它们合作在一起的样子。渐渐地,我发现它们之间
的距离在缩小,阳光透过窗户洒进来,在他们的身上反射出光点。

一个月亮高悬天际,我看到一只黑色的大鸟掠过天空,留下一道银白色的影子。那是一只会飞的兔子,它的耳朵上
沾着一层薄雾,像是被风吹破了一样。它优雅地落在了小松鼠的肩上,轻轻地说:

"我们来一起回家吧。"

最终,它们终于在一片雪中相遇。阳光暖暖地洒在我的脚底,我的手触到了他们的脚印。它们继续向前跑,在月光
里交织在一起,就像故事里的那条神奇的路。

那一刻,我忽然明白了一个道理:即使是最出色的个体,也难以独自完成任何事情。只有当他们团结一致、智慧运
用时,才能找到出路。

>>> /bye

😢 嗯…看这个效果,如果自己没有很高端的显卡来运行8b或是更大的模型的话,建议还是使用官网的吧。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/2293861.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

搭建集成开发环境PyCharm

1.下载安装Python&#xff08;建议下载并安装3.9.x&#xff09; https://www.python.org/downloads/windows/ 要注意勾选“Add Python 3.9 to PATH”复选框&#xff0c;表示将Python的路径增加到环境变量中 2.安装集成开发环境Pycharm http://www.jetbrains.com/pycharm/…

国防科大:双目标优化防止LLM灾难性遗忘

&#x1f4d6;标题&#xff1a;How to Complete Domain Tuning while Keeping General Ability in LLM: Adaptive Layer-wise and Element-wise Regularization &#x1f310;来源&#xff1a;arXiv, 2501.13669 &#x1f31f;摘要 &#x1f538;大型语言模型&#xff08;LLM…

NacosRce到docker逃逸实战

NacosRce到docker逃逸实战 1、Nacos Derby Rce打入内存马 这个漏洞的原理大家应该都知道&#xff0c; 2.3.2 < Nacos < 2.4.0版本默认derby接口未授权访问&#xff0c;攻击者可利用未授权访问执行SQL语句加载构造恶意的JAR包导致出现远程代码执行漏洞。 在日常的漏洞挖…

在Vue3 + Vite 项目中使用 Tailwind CSS 4.0

文章目录 首先是我的package.json根据官网步骤VS Code安装插件验证是否引入成功参考资料 首先是我的package.json {"name": "aplumweb","private": true,"version": "0.0.0","type": "module","s…

扣子平台的选择器节点:让智能体开发更简单,扣子免费系列教程(17)

欢迎来到涛涛聊AI。今天&#xff0c;我们来聊聊一个非常实用的工具——扣子平台的选择器节点。即使你不是计算机专业人员&#xff0c;但对计算机操作比较熟悉&#xff0c;这篇文章也能帮你快速上手。我们会从基础知识讲起&#xff0c;一步步带你了解选择器节点的使用方法和应用…

享元模式——C++实现

目录 1. 享元模式简介 2. 代码示例 1. 享元模式简介 享元模式是一种结构型模式。 享元模式用于缓存共享对象&#xff0c;降低内存消耗。共享对象相同的部分&#xff0c;避免创建大量相同的对象&#xff0c;减少内存占用。 享元模式需要将对象分成内部状态和外部状态两个部分…

SSRF 漏洞利用 Redis 实战全解析:原理、攻击与防范

目录 前言 SSRF 漏洞深度剖析 Redis&#xff1a;强大的内存数据库 Redis 产生漏洞的原因 SSRF 漏洞利用 Redis 实战步骤 准备环境 下载安装 Redis 配置漏洞环境 启动 Redis 攻击机远程连接 Redis 利用 Redis 写 Webshell 防范措施 前言 在网络安全领域&#xff0…

react的antd表格自定义图标

将原版的加号换成箭头 自定义图标 安装图标包&#xff1a; npm install --save ant-design/icons 引入&#xff1a; import { RightOutlined, DownOutlined } from ant-design/icons; 参数是一个函数 <Table columns{columns} dataSource{data} indentSize{20}expandIc…

Games104——游戏引擎Gameplay玩法系统:基础AI

这里写目录标题 寻路/导航系统NavigationWalkable AreaWaypoint NetworkGridNavigation Mesh&#xff08;寻路网格&#xff09;Sparse Voxel Octree Path FindingDijkstra Algorithm迪杰斯特拉算法A Star&#xff08;A*算法&#xff09; Path Smoothing Steering系统Crowd Simu…

亚博microros小车-原生ubuntu支持系列:22 物体识别追踪

背景知识 跟上一个颜色追踪类似。也是基于opencv的&#xff0c;不过背后的算法有很多 BOOSTING&#xff1a;算法原理类似于Haar cascades (AdaBoost)&#xff0c;是一种很老的算法。这个算法速度慢并且不是很准。MIL&#xff1a;比BOOSTING准一点。KCF&#xff1a;速度比BOOST…

java进阶之并发编程一ReentrantLock的实际应用和线程中断EXAMPLE

引言:继上一篇ReentrantLock的介绍来做俩个小demo。 实现3个线程分别打印指定数字和线程死锁进行线程中断。 上一篇:<<java进阶之并发编程一ReentrantLock同步锁的学习和syncthronized的区别>> **demo1:**ReentrantLock搭配三个线程分别打印指定的数字,直接上代…

分享2款 .NET 开源且强大的翻译工具

前言 对于程序员而言永远都无法逃避和英文打交道&#xff0c;今天大姚给大家分享2款 .NET 开源、功能强大的翻译工具&#xff0c;希望可以帮助到有需要的同学。 STranslate STranslate是一款由WPF开源的、免费的&#xff08;MIT License&#xff09;、即开即用、即用即走的翻…

SpringBoot+Dubbo+zookeeper 急速入门案例

项目目录结构&#xff1a; 第一步&#xff1a;创建一个SpringBoot项目&#xff0c;这里选择Maven项目或者Spring Initializer都可以&#xff0c;这里创建了一个Maven项目&#xff08;SpringBoot-Dubbo&#xff09;&#xff0c;pom.xml文件如下&#xff1a; <?xml versio…

[LeetCode] 二叉树 I — 深度优先遍历(前中后序遍历) | 广度优先遍历(层序遍历):递归法迭代法

二叉树 基础知识深度优先遍历递归法迭代法&#xff08;栈&#xff09;144# 二叉树的前序遍历94# 二叉树的中序遍历145# 二叉树的后序遍历 广度优先遍历递归法迭代法&#xff08;队列&#xff09;102# 二叉树的层序遍历107# 二叉树的层序遍历 II199# 二叉树的右视图637# 二叉树的…

Python aiortc API

本研究的主要目的是基于Python aiortc api实现抓取本地设备&#xff08;摄像机、麦克风&#xff09;媒体流实现Web端预览。本文章仅仅描述实现思路&#xff0c;索要源码请私信我。 demo-server解耦 原始代码解析 http服务器端 import argparse import asyncio import json…

OpenCV4,快速入门,第二讲:图像色彩空间转换

文章目录 引言一、色彩空间概述1.1 RGB与HSV的区别1.2 HSV的详细含义cvtColor二、cvtColor函数详解2.1 函数原型2.2 参数说明2.3 使用示例三、imwrite函数详解3.1 函数原型3.2 参数说明3.3 使用示例四、完整示例代码五、应用场景与注意事项5.1 HSV的典型应用5.2 注意事项结语引…

86.(2)攻防世界 WEB PHP2

之前做过&#xff0c;回顾一遍&#xff0c;详解见下面这篇博客 29.攻防世界PHP2-CSDN博客 既然是代码审计题目&#xff0c;打开后又不显示代码&#xff0c;肯定在文件里 <?php // 首先检查通过 GET 请求传递的名为 "id" 的参数值是否严格等于字符串 "admi…

RK3588——解决Linux系统触摸屏坐标方向相反问题

问题描述&#xff1a;触摸正常产生中断&#xff0c;但系统上报的触摸坐标不正确&#xff0c;是反向的坐标。 解决办法通过修改设备树添加属性翻转坐标。 注&#xff1a;需确认对应的驱动是否有解析该属性的具体内容&#xff0c;否则仍然无法生效。

面对全球化的泼天流量,出海企业如何观测多地域网络质量?

作者&#xff1a;俞嵩、白玙 泼天富贵背后&#xff0c;技术挑战接踵而至 随着全球化进程&#xff0c;出海、全球化成为很多 Toc 产品的必经之路&#xff0c;保障不同地域、不同网络环境的一致的用户体验成为全球化应用的不得不面对的问题。在跨运营商、跨地域的网络环境中&am…

YOLOv11实时目标检测 | 摄像头视频图片文件检测

在上篇文章中YOLO11环境部署 || 从检测到训练https://blog.csdn.net/2301_79442295/article/details/145414103#comments_36164492&#xff0c;我们详细探讨了YOLO11的部署以及推理训练&#xff0c;但是评论区的观众老爷就说了&#xff1a;“博主博主&#xff0c;你这个只能推理…