Linux 本地部署 Deepseek-R1 大模型!

news2025/2/22 16:16:12

DeepSeek-R1 的发布,掀起了一场风暴!

开源、强大、本地可部署,真正私有的 AI 助手,不受网络、隐私等限制,数据安全感直接拉满!

今天,手把手带你在 Linux 上本地部署 DeepSeek-R1,关注我们,让你的 AI 彻底自主!

第一步:环境准备

必备硬件

操作系统:Ubuntu 22.04 / CentOS 7+

CPU处理器:建议 Intel i7 / AMD Ryzen 5 以上

内存:最少 16GB,推荐 32GB 以上,保证模型不卡顿

硬盘:至少 50GB SSD(模型存储+缓存)

GPU显卡:NVIDIA RTX 3090 / A100 / H100(24GB 显存更流畅)

基础软件安装:

Ubuntu / Debian 系统

update && sudo apt upgrade -ysudo apt install -y git wget curl python3 python3-venv python3-pip 

CentOS / RHEL 系统

sudo yum update -ysudo yum install -y git wget curl python3 python3-venv python3-pip 

温馨提示:

如果没有 GPU,也可以用 CPU 运行,但速度会慢很多。

第二步:安装 GPU 依赖

安装 NVIDIA 驱动

nvidia-smi  # 确保系统正确识别 NVIDIA GPU

如果没有 NVIDIA 驱动,请安装:

sudo apt install -y nvidia-driver-525
sudo reboot

安装 CUDA & cuDNN(GPU 用户必装)

wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/x86_64/cuda-repo-ubuntu2204_11.8.0-1_amd64.deb
sudo dpkg -i cuda-repo-ubuntu2204_11.8.0-1_amd64.deb
sudo apt update
sudo apt install -y cuda

安装 cuDNN:

wget https://developer.download.nvidia.com/compute/cudnn/redist/cudnn-linux-x86_64-8.6.0.163_cuda11-archive.tar.xz
tar -xvf cudnn-linux-x86_64-8.6.0.163_cuda11-archive.tar.xz
sudo cp -P cudnn-linux-x86_64-8.6.0.163_cuda11-archive/include/* /usr/local/cuda/include/
sudo cp -P cudnn-linux-x86_64-8.6.0.163_cuda11-archive/lib/* /usr/local/cuda/lib64/

验证 CUDA 是否安装成功:

nvcc --version

第三步:安装 Ollama 管理大模型

1. 安装 Ollama

curl -fsSL https://ollama.ai/install.sh | sh

2. 检查安装是否成功

ollama help 
# 如果看到帮助信息输出,恭喜你,Ollama 安装成功! 

第四步:下载与部署 DeepSeek-R1

1. 选择合适的模型版本,下面代码中的 “1.5b” 是普通电脑能跑起来的。

ollama pull deepseek-r1:1.5b
1.5B 版本:轻量级,适合普通用户 7B 版本:兼顾性能和速度 13B 版本:高性能,适合 AI 发烧友

2. 开始运行

ollama run deepseek-r1:1.5b

成功后可能是这样

$ ollama pull deepseek-r1:1.5b
pulling manifest
pulling 6e9f90f02bb3... 100% ▕██████████████████████████▏ 9.0 GB
pulling 369ca498f347... 100% ▕██████████████████████████▏  387 B
pulling 6e4c38e1172f... 100% ▕██████████████████████████▏ 1.1 KB
pulling f4d24e9138dd... 100% ▕██████████████████████████▏  148 B
pulling 3c24b0c80794... 100% ▕██████████████████████████▏  488 B
verifying sha256 digest
writing manifest
success

第五步:安装 Chatbox:方便使用

访问 Chatbox 官网 https://chatboxai.app/zh#download 下载 Linux 版本,或使用网页版。

配置 Chatbox 连接本地 DeepSeek-R1,然后开始聊天

打开 Chatbox,进入设置页面 选择 "Ollama API" 作为模型提供方 输入模型名称:deepseek-r1:1.5b

常见问题解决方案

1. 模型下载失败?

检查网络连接

关闭防火墙或检查代理设置

2. 运行卡顿?

降低模型版本(如 1.5B)

关闭其他后台进程

确保 GPU 正确启用 nvidia-smi

3. API 连接失败?

检查 Chatbox 是否正确配置 API 地址

确保 Ollama 正在运行

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/2303507.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

【深度学习】Pytorch的深入理解和研究

一、Pytorch核心理解 PyTorch 是一个灵活且强大的深度学习框架,广泛应用于研究和工业领域。要深入理解和研究 PyTorch,需要从其核心概念、底层机制以及高级功能入手。以下是对 PyTorch 的深入理解与研究的详细说明。 1. 概念 动态计算图(D…

IDEA + 通义灵码AI程序员:快速构建DDD后端工程模板

作者:陈荣健 IDEA 通义灵码AI程序员:快速构建DDD后端工程模板 在软件开发过程中,一个清晰、可维护、可扩展的架构至关重要。领域驱动设计 (DDD) 是一种软件开发方法,它强调将软件模型与业务领域紧密结合,从而构建更…

内容中台重构企业内容管理的价值维度与实施路径

内容概要 在数字化转型进程中,企业内容管理(ECM)与内容中台的差异性体现在价值维度的重构与能力边界的突破。传统ECM系统通常聚焦于文档存储、权限控制等基础功能,而内容中台通过标准化流程引擎与智能工具链,构建起覆…

CPU封装形式解析:从传统到先进封装的技术演进

中央处理器(CPU)的封装技术是半导体制造的关键环节,直接影响芯片的电气性能、散热效率和物理可靠性。随着半导体工艺的不断进步,封装形式从早期的简单结构演变为复杂的多维集成方案。本文将系统解析CPU的主流封装形式及其技术特点…

Spring Boot 应用(官网文档解读)

Spring Boot 启动方式 SpringApplication.run(MyApplication.class, args); Spring Boot 故障分析器 在Spring Boot 项目启动发生错误的时候,我们通常可以看到上面的内容,即 APPLICATION FAILED TO START,以及后面的错误描述。这个功能是通过…

【智能客服】ChatGPT大模型话术优化落地方案

本文原创作者:姚瑞南 AI-agent 大模型运营专家,先后任职于美团、猎聘等中大厂AI训练专家和智能运营专家岗;多年人工智能行业智能产品运营及大模型落地经验,拥有AI外呼方向国家专利与PMP项目管理证书。(转载需经授权) 目录 一、项目背景 1.1 行业背景 1.2 业务现…

1.22作业

1 Web-php-unserialize __construct()与$file、__destruct() __wakeup()检查 先绕过wakeup函数: O:4:"Demo":2:{s:10:"Demofile";s:8:"fl4g.php";}1.PHP序列化的时候对public protected private变量的处理方式是不同的 public无标…

学习aigc

DALLE2 论文 Hierarchical Text-Conditional Image Generation with CLIP Latents [2204.06125] Hierarchical Text-Conditional Image Generation with CLIP LatentsAbstract page for arXiv paper 2204.06125: Hierarchical Text-Conditional Image Generation with CLIP L…

overflow-x: auto 使用鼠标实现横向滚动,区分触摸板和鼠标滚动事件的方法

假设一个 div 的滚动只设置了 overflow-x: auto 我们发现使用鼠标的滚轮是无法左右滚动的,但是使用笔记本电脑的触摸板,或者在移动设备上是可以滚动的。所以我们需要兼容一下鼠标的横向滚动功能。 我们可以监控 wheel 事件,然后根据位置来计…

模拟实现Java中的计时器

定时器是什么 定时器也是软件开发中的⼀个重要组件. 类似于⼀个 "闹钟". 达到⼀个设定的时间之后, 就执⾏某个指定好的代码. 前端/后端中都会用到计时器. 定时器是⼀种实际开发中⾮常常⽤的组件. ⽐如⽹络通信中, 如果对⽅ 500ms 内没有返回数据, 则断开连接尝试重…

Ubuntu 的RabbitMQ安装

目录 1.安装Erlang 查看erlang版本 退出命令 2. 安装 RabbitMQ 3.确认安装结果 4.安装RabbitMQ管理界面 5.启动服务并访问 1.启动服务 2.查看服务状态 3.通过IP:port 访问界面 4.添加管理员用户 a)添加用户名:admin,密码&#xff1…

vim修改只读文件

现象 解决方案 对于有root权限的用户,在命令行输入 :wq! 即可强制保存退出

【DeepSeek】本地部署,保姆级教程

deepseek网站链接传送门:DeepSeek 在这里主要介绍DeepSeek的两种部署方法,一种是调用API,一种是本地部署。 一、API调用 1.进入网址Cherry Studio - 全能的AI助手选择立即下载 2.安装时位置建议放在其他盘,不要放c盘 3.进入软件后…

NCRE证书构成:全国计算机等级考试证书体系详解

全国计算机等级考试(NCRE)证书体系为中学生提供了一个系统学习和提升计算机能力的平台。本文将详细介绍 NCRE 证书的构成,帮助中学生了解 NCRE 证书的级别和内容,规划未来职业发展。 一、NCRE 证书体系概述 NCRE 证书共分为四个级…

如何在WPS打开的word、excel文件中,使用AI?

1、百度搜索:Office AI官方下载 或者直接打开网址:https://www.office-ai.cn/static/introductions/officeai/smartdownload.html 打开后会直接提示开始下载中,下载完成后会让其选择下载存放位置: 选择位置,然后命名文…

【设计模式】 代理模式(静态代理、动态代理{JDK动态代理、JDK动态代理与CGLIB动态代理的区别})

代理模式 代理模式是一种结构型设计模式,它提供了一种替代访问的方法,即通过代理对象来间接访问目标对象。代理模式可以在不改变原始类代码的情况下,增加额外的功能,如权限控制、日志记录等。 静态代理 静态代理是指创建的或特…

《A++ 敏捷开发》- 16 评审与结对编程

客户:我们的客户以银行为主,他们很注重质量,所以一直很注重评审。他们对需求评审、代码走查等也很赞同,也能找到缺陷,对提升质量有作用。但他们最困惑的是通过设计评审很难发现缺陷。 我:你听说过敏捷的结对…

NutUI内网离线部署

文章目录 官网拉取源代码到本地仓库修改源代码打包构建nginx反向代理部署访问内网离线地址 在网上找了一圈没有写NutUI内网离线部署的文档,花了1天时间研究下,终于解决了。 对于有在内网离线使用的小伙伴就可以参考使用了 如果还是不会联系UP主:QQ:10927…

【实战篇】【深度介绍 DeepSeek R1 本地/私有化部署大模型常见问题及解决方案】

引言 大家好!今天我们来聊聊 DeepSeek R1 的本地/私有化部署大模型。如果你正在考虑或者已经开始了这个项目,那么这篇文章就是为你准备的。我们会详细探讨常见问题及其解决方案,帮助你更好地理解和解决在部署过程中可能遇到的挑战。准备好了…

Qt学习(六) 软件启动界面 ,注册表使用 ,QT绘图, 视图和窗口绘图,Graphics View绘图框架:简易CAD

一 软件启动界面 注册表使用 知识点1:这样创建的界面是不可以拖动的,需要手动创建函数来进行拖动,以下的3个函数是从父类继承过来的函数 virtual void mousePressEvent(QMouseEvent *event);virtual void mouseReleaseEvent(QMouseEvent *eve…