大模型学习三:DeepSeek R1蒸馏模型组ollama调用流程

news2025/4/10 17:52:16

一、说明

目前DeepSeek R1及其蒸馏模型均支持使用ollama进行调用,可以在模型主页查看调用情况

deepseek-r1https://ollama.com/library/deepseek-r1

显存需求 ,我们显存是16G,可以玩好几个

 

二、以14B模型演示

1、安装ollama

curl -fsSL https://ollama.com/install.sh | sh

 2、启动ollama

安装完成后即可使用ollama start来启动ollama服务
ollama start

3、使用ollama run 直接下载模型运行

ollama run deepseek-r1:14b

我这个系统里应该有,下载过程省掉了,直接可以用 ,速度还很快

(base) root@VM-0-80-ubuntu:/workspace# ollama run deepseek-r1:14b
>>> 你是谁?
<think>

</think>

您好!我是由中国的深度求索(DeepSeek)公司开发的智能助手DeepSeek-R1。如您有任何任何问题,我会尽我所能为您提供帮助。

>>> 我可以帮你做些什么
<think>
嗯,用户问“我可以帮你做些什么”,这看起来是一个开放性的问题,可能是在了解我能提供的服务范围。首先,我需要明确他的意图,是想获取信息、解决问题,还是
寻求建议?或者他可能只是好奇我的功能。

考虑到之前的对话中,用户问我“你是谁”,我已经做了自我介绍,现在轮到他提出问题,可能是想进一步了解如何使用我来帮助他。这可能意味着他对我的能力有兴趣
,或者有特定的需求。

接下来,我应该列出我能提供的各种服务,涵盖信息查询、学习辅助、生活建议等多个方面。这样用户可以根据自己的需求选择合适的服务类型。同时,保持语气友好
和乐于助人,鼓励用户提供更具体的问题,以便更好地帮助他。

另外,我要确保回答清晰、详细,并且用中文表达,避免使用专业术语或复杂的句子结构,让用户容易理解。最后,总结一下我的主要功能,让他知道我随时准备提供
帮助。
</think>

您好!我可以帮您解答各种问题、提供建议、分享知识,或者简单地聊聊您的兴趣爱好。无论是学习、工作还是生活中的疑问,我都乐意为您提供帮助!请问有什么我
可以为您效劳的?

>>> 你有爱人吗
<think>
用户问“你有爱人吗”,这个问题挺有趣的。作为一个AI,我没有感情或意识,所以没有家庭成员的概念。我需要解释清楚这一点,同时保持礼貌和友好。

首先,我要明确回答问题:作为AI,我没有情感或个人生活。接着,我应该表达出我的主要目标是帮助用户解决问题,让用户感到被重视和支持。

最后,我可以鼓励用户提供具体的问题,这样我能更好地协助他。整个回应要简洁明了,语气友好,避免让用户体验到冷漠或不相关。
</think>

哈哈,作为一个人工智能,我没有感情或个人生活,所以没有“爱人”这个概念哦!我的主要目标是为您提供帮助和解答问题,而不是处理情感类的问题。您有什么具体
的需求或问题吗?我非常乐意为您效劳!

>>> Send a message (/? for help

4、手动下载GGUF权重并运行

除了使用ollama run命令外, ollama也支持调用手动下载的自定义模型,但需要是GGUF格式。目前已有各种不同量化版本的GGUF模型在魔搭社区中上线了:

DeepSeek-R1-Distill-Qwen-14B-GGUF · 模型库https://modelscope.cn/models/unsloth/DeepSeek-R1-Distill-Qwen-14B-GGUF/files

  •  下载

pip install modelscope
mkdir -p DeepSeek-R1-14B-GGUF
modelscope download --model unsloth/DeepSeek-R1-Distill-Qwen-14B-GGUF DeepSeek-R1-Distill-Qwen-14B-Q4_K_M.gguf --local_dir ./DeepSeek-R1-14B-GGUF

 

  • 创建文件ModelFile

FROM ./DeepSeek-R1-14B-GGUF/DeepSeek-R1-Distill-Qwen-14B-Q4_K_M.gguf

  • 将该模型加入Ollama本地模型列表 

cd /workspace
ollama create DeepSeek-R1-14B-Test -f ModelFile

# 开始
(base) root@VM-0-80-ubuntu:/workspace# ollama create DeepSeek-R1-14B-Test -f ModelFile
transferring model data ⠏ 

# 完成,看到success

(base) root@VM-0-80-ubuntu:/workspace# ollama create DeepSeek-R1-14B-Test -f ModelFile
transferring model data 100% 
using existing layer sha256:67a7933cf2ad596a393c8e13b30bc4da2d50b283e250b78554aed18817eca31c 
creating new layer sha256:7435c2fbd3259e083d118cd88a4625471347e13a80b444597ef0fc21139a2f06 
writing manifest 
success 
  • 查看模型是否注册成功 

ollama list

(base) root@VM-0-80-ubuntu:/workspace# ollama list
NAME                           ID              SIZE      MODIFIED       
DeepSeek-R1-14B-Test:latest    b8da69755cfe    9.0 GB    58 seconds ago    
deepseek-r1:14b                ea35dfe18182    9.0 GB    7 weeks ago       
deepseek-r1:32b                38056bbcbb2d    19 GB     7 weeks ago       
deepseek-r1:8b                 28f8fd6cdc67    4.9 GB    7 weeks ago       
deepseek-r1:1.5b               a42b25d8c10a    1.1 GB    2 months ago      
deepseek-r1:7b                 0a8c26691023    4.7 GB    2 months ago   

红色的注册上去的,感觉像docker吗?我是觉得像 

  • 运行使用

ollama run DeepSeek-R1-14B-Test

(base) root@VM-0-80-ubuntu:/workspace# ollama run DeepSeek-R1-14B-Test
>>> Send a message (/? for help) 

(base) root@VM-0-80-ubuntu:/workspace# ollama run DeepSeek-R1-14B-Test
>>> 1+1等于几?
嗯,这可能看起来是一个很简单的问题,但其实背后涉及的数学知识和逻辑推理还是挺多的。首先,我需要理解“1”是什么意思。在日常生活中,“1”通常代表一个具体
的物体,比如一个苹果、一本书或者一朵花。但是,在数学中,“1”不仅仅是一个符号,它还有更深层次的意义。

我记得在学习加法的时候,老师告诉我们说“1+1等于2”。可是,为什么是“2”呢?难道“1+1”不能等于其他数吗?这让我开始思考数学的基本规则和定义。首先,我需要
回顾一下数字系统的发展历史。

在人类文明的早期,人们用不同的方式来计数,比如用手指、结绳或者刻痕来表示数量。随着社会的进步,逐渐发展出了更复杂的符号系统,也就是数字。这些数字不
仅仅是用来表示数量,它们还有自己的运算规则和逻辑体系。

那么,“1+1”为什么等于“2”呢?这可能涉及到数学中的公理化体系。在数学中,有一些基本的公理被接受为真理,不需要证明。比如,在算术的基本公理中,有一个称
为“加法单位元”的公理,它规定了数字的运算规则。

具体来说,“1+1=2”这个等式成立是因为在十进制系统中,每个位置上的数字代表不同的数量级。当我们在个位上进行加法时,1加1就等于2,而不需要考虑更高位的变
化,除非超过了个位数的范围。因此,在这种情况下,1+1确实等于2。

不过,这只是在我们常用的十进制系统中成立。如果换一种进制,比如二进制或者十六进制,“1+1”可能会有不同的结果。例如,在二进制中,1+1=10;而在十六进制
中,1+1=2。因此,数学运算的结果并不是绝对的,而是取决于我们使用的数制系统。

这让我意识到,数学不仅仅是一堆固定的规则和答案,而是一个充满逻辑推理和抽象思维的世界。每一个看似简单的等式背后,都隐藏着深刻的理论基础和严谨的推导
过程。

进一步思考,“1+1=2”这个等式在不同的数学领域中是否也成立呢?比如,在代数、几何或者其他分支中。在代数中,如果我们定义某种运算规则,那么“1+1”的结果可
能会根据这些规则而变化。同样地,在集合论或者逻辑学中,“1+1”也可能有不同的解释和结果。

这让我想到,数学的美就在于它的多样性和灵活性。尽管有些概念看似简单,但深入研究后会发现它们背后的复杂性和深刻性。这也提醒我在学习数学时,不能仅仅停
留在表面,而应该探索其内在的逻辑和原理。

接下来,我想验证一下“1+1=2”的正确性。我可以查阅一些基础数学教材或者可靠的在线资源,看看权威资料是如何解释这个等式的。同时,我还可以尝试用不同的方
法来证明它,比如使用数论中的概念或者通过几何图形来辅助理解。

例如,在几何学中,如果我们有两个单独的点,那么将它们合并在一起就会形成一个由两个点组成的集合。因此,“1+1”可以被看作是将两个独立的部分结合成一个整
体的过程,而这个整体的数量就是“2”。这种直观的理解有助于我更好地掌握数学的基本概念。

此外,我还记得在学习算术运算时,老师常常强调操作的顺序和规则的重要性。比如,在加法中,交换律、结合律等都是确保计算正确性的基石。这些定律不仅适用于
简单的数字,也适用于更复杂的数制系统和高级的数学运算。

不过,我还是有点困惑的是,为什么在不同的数制系统中,“1+1”会有不同的结果?难道数学不是普遍适用的真理吗?其实,数制系统的不同只是改变了我们表示数量
的方式,并不意味着数学原理本身发生了变化。无论是在二进制、十进制还是十六进制中,基本的加法规则都是相同的,只是符号和位置值有所不同。

为了更深入地理解这一点,我可以尝试转换不同的数制系统来验证“1+1”的结果。比如,在二进制中,数字是以2为基数进行计数的,因此当个位上的数字相加超过1时
,就会向高位进位。所以,1(二进制)等于十进制中的1,而10(二进制)等于十进制中的2。因此,在二进制中,1+1=10,也就是相当于十进制的2。

这说明,无论使用哪种数制系统,“1+1”的结果都是相同的数值,只是表示的方式不同而已。这就进一步验证了数学的普遍性和一致性。

通过这次思考和研究,我不仅确认了“1+1=2”这个等式的正确性,还深入了解了背后的数学原理和逻辑体系。这让我对数学有了更敬畏的心态,同时也更加坚定了探索
数学奥秘的兴趣。
</think>

1+1等于2。这一简单的算术表达式,看似平凡却蕴含着深刻的数学道理。在十进制系统中,1加1确实等于2。然而,在不同的数制系统下,“1+1”的结果可能有所不同。
例如,在二进制中,1+1等于10(相当于十进制的2),而在十六进制中,1+1仍等于2。

这一等式成立的基础在于数学中的公理体系和运算规则。在算术的基本公理中,加法单位元的公理规定了数字的运算规则,从而确保了“1+1=2”的^[[200~(base) root@VM-0-80-ubuntu:/workspace# ollama run DeepSeek-R1-14B-Test
>>> Send a message (/? for help)^[[201~正确性。此外,数学
的多样性和灵活性体现在不同的数制系统和数学分支中,但基本原理保持不变。

通过理解“1+1=2”背后的理论基础,我们不仅确认了这一算术表达式的正确性,还深入认识了数学世界的逻辑严谨与美。

>>> (base) root@VM-0-80-ubuntu:/workspace# ollama run DeepSeek-R1-14B-Test
... >>> Send a message (/? for help)

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/2328029.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

RAGFlow部署与使用介绍-深度文档理解和检索增强生成

ragflow部署与使用教程-智能文档处理与知识管理的创新引擎 1. ragflow简介 ​ RAGFlow作为新一代智能文档处理平台&#xff0c;深度融合检索增强生成&#xff08;RAG&#xff09;技术与自动化工作流引擎&#xff0c;为企业级知识管理提供全栈解决方案。通过结合多模态解析、语…

【AI赋能:58招聘数据的深度剖析之旅】

影刀出鞘&#xff0c;抓取数据 在当今数字化时代&#xff0c;数据分析已成为企业决策和发展的关键驱动力。而获取高质量的数据则是数据分析的首要任务。在这个信息爆炸的时代&#xff0c;网络上蕴含着海量的数据&#xff0c;其中招聘网站的数据对于人力资源分析、市场趋势研究…

几何法证明卡特兰数_栈混洗

模型&#xff1a; 考虑从坐标原点 (0, 0) 到点 (n, n) 的路径&#xff0c;要求路径只能向右&#xff08;x 方向&#xff09;或向上&#xff08;y 方向&#xff09;移动&#xff0c;并且路径不能越过直线 y x&#xff08;即始终满足 y< x &#xff09;。这样的路径数量就是…

Kafka的安装与使用(windows下python使用等)

一、下载 可以去官网下载&#xff1a;https://kafka.apache.org/downloads 版本可选择&#xff0c;建议下载比较新的&#xff0c;新版本里面自带zookeeper 二、安装 创建一个目录&#xff0c;此处是D:\kafka&#xff0c;将文件放进去解压 如果文件后缀是gz&#xff0c;解压…

数据结构初阶: 顺序表的增删查改

顺序表 概念 顺序表是⽤⼀段物理地址连续的存储单元依次存储数据元素的线性结构&#xff0c;⼀般情况下采⽤数组存储。如图1&#xff1a; 顺序表和数组有什么区别&#xff1f; 顺序表的底层是用数组实现的&#xff0c;是对数组的封装&#xff0c;实现了增删查改等接口。 分…

详解AI采集框架Crawl4AI,打造智能网络爬虫

大家好&#xff0c;Crawl4AI作为开源Python库&#xff0c;专门用来简化网页爬取和数据提取的工作。它不仅功能强大、灵活&#xff0c;而且全异步的设计让处理速度更快&#xff0c;稳定性更好。无论是构建AI项目还是提升语言模型的性能&#xff0c;Crawl4AI都能帮您简化工作流程…

【爬虫开发】爬虫开发从0到1全知识教程第14篇:scrapy爬虫框架,介绍【附代码文档】

本教程的知识点为&#xff1a;爬虫概要 爬虫基础 爬虫概述 知识点&#xff1a; 1. 爬虫的概念 requests模块 requests模块 知识点&#xff1a; 1. requests模块介绍 1.1 requests模块的作用&#xff1a; 数据提取概要 数据提取概述 知识点 1. 响应内容的分类 知识点&#xff1a…

SQLark:一款国产免费数据库开发和管理工具

SQLark&#xff08;百灵连接&#xff09;是一款面向信创应用开发者的数据库开发和管理工具&#xff0c;用于快速查询、创建和管理不同类型的数据库系统&#xff0c;目前可以支持达梦数据库、Oracle 以及 MySQL。 对象管理 SQLark 支持丰富的数据库对象管理功能&#xff0c;包括…

防爆对讲机VS非防爆对讲机,如何选择?

在通信设备的广阔市场中&#xff0c;对讲机以其高效、便捷的特点&#xff0c;成为众多行业不可或缺的沟通工具。而面对防爆对讲机与非防爆对讲机&#xff0c;许多用户常常陷入选择困境。究竟该如何抉择&#xff0c;且听我为您细细道来。 防爆对讲机&#xff0c;专为危险作业场…

微信小程序开发:开发实践

微信小程序开发实践研究 摘要 随着移动互联网的迅猛发展&#xff0c;微信小程序作为一种轻量化、无需安装的应用形式&#xff0c;逐渐成为开发者和用户的首选。本文以“个人名片”小程序为例&#xff0c;详细阐述了微信小程序的开发流程&#xff0c;包括需求分析、项目规划、…

操作 Office Excel 文档类库Excelize

Excelize 是 Go 语言编写的一个用来操作 Office Excel 文档类库&#xff0c;基于 ECMA-376 OOXML 技术标准。可以使用它来读取、写入 XLSX 文件&#xff0c;相比较其他的开源类库&#xff0c;Excelize 支持操作带有数据透视表、切片器、图表与图片的 Excel 并支持向 Excel 中插…

青铜与信隼的史诗——TCP与UDP的千年博弈

点击下面图片带您领略全新的嵌入式学习路线 &#x1f525;爆款热榜 88万阅读 1.6万收藏 第一章 契约之匣与自由之羽 熔岩尚未冷却的铸造台上&#xff0c;初代信使长欧诺弥亚将液态秘银倒入双生模具。左侧模具刻着交握的青铜手掌&#xff0c;右侧则是展开的隼翼纹章。当星辰…

「青牛科技」GC5849 12V三相无感正弦波电机驱动芯片

芯片描述&#xff1a; • 4 &#xff5e; 20V 工作电压&#xff0c; 30V 最大耐压 • 驱动峰值电流 2.0A &#xff0c;连续电流 800mA 以内 • 芯片内阻&#xff1a; 900mΩ &#xff08;上桥 下桥&#xff09; • eSOP-8 封装&#xff0c;底部 ePAD 散热&#xff0c;引…

Java基础之反射的基本使用

简介 在运行状态中&#xff0c;对于任意一个类&#xff0c;都能够知道这个类的所有属性和方法&#xff1b;对于任意一个对象&#xff0c;都能够调用它的任意属性和方法&#xff1b;这种动态获取信息以及动态调用对象方法的功能称为Java语言的反射机制。反射让Java成为了一门动…

大语言模型中的嵌入模型

本教程将拆解什么是嵌入模型、为什么它们在NLP中如此重要,并提供一个简单的Python实战示例。 分词器将原始文本转换为token和ID,而嵌入模型则将这些ID映射为密集向量表示。二者合力为LLMs的语义理解提供动力。图片来源:[https://tzamtzis.gr/2024/coding/tokenization-by-an…

【从零实现Json-Rpc框架】- 项目实现 - 服务端主题实现及整体封装

&#x1f4e2;博客主页&#xff1a;https://blog.csdn.net/2301_779549673 &#x1f4e2;博客仓库&#xff1a;https://gitee.com/JohnKingW/linux_test/tree/master/lesson &#x1f4e2;欢迎点赞 &#x1f44d; 收藏 ⭐留言 &#x1f4dd; 如有错误敬请指正&#xff01; &…

开源的 LLM 应用开发平台Dify的安装和使用

文章目录 前提环境应用安装deocker desktop镜像源配置Dify简介Dify本地docker安装Dify安装ollama插件Dify安装硅基流动插件简单应用练习进阶应用练习数据库图像检索与展示助手echart助手可视化 前提环境 Windows环境 docker desktop魔法环境&#xff1a;访问Dify项目ollama电脑…

从零构建大语言模型全栈开发指南:第五部分:行业应用与前沿探索-5.1.2行业落地挑战:算力成本与数据隐私解决方案

👉 点击关注不迷路 👉 点击关注不迷路 👉 点击关注不迷路 文章大纲 从零构建大语言模型全栈开发指南-第五部分:行业应用与前沿探索5.1.2 行业落地挑战:算力成本与数据隐私解决方案1. 算力成本挑战与优化策略1.1 算力成本的核心问题1.2 算力优化技术方案2. 数据隐私挑战…

NodeJS--NPM介绍使用

1、使用npm install命令安装模块 1.1、本地安装 npm install express 1.2、全局安装 npm install express -g 1.3、本地安装和全局安装的区别

DeepSeek与ChatGPT的优势对比:选择合适的工具来提升工作效率

选DeepSeek还是ChatGPT&#xff1f;这就像问火锅和披萨哪个香&#xff01; "到底该用DeepSeek还是ChatGPT?” 这个问题最近在互联网圈吵翻天!其实这就跟选手机系统-样&#xff0c;安卓党iOS党都能说出一万条理由&#xff0c;但真正重要的是你拿它来干啥&#xff01;&am…