DeepSeek-R1 的发布,掀起了一场风暴!
开源、强大、本地可部署,真正私有的 AI 助手,不受网络、隐私等限制,数据安全感直接拉满!
今天,手把手带你在 Linux 上本地部署 DeepSeek-R1,关注我们,让你的 AI 彻底自主!
第一步:环境准备
必备硬件
操作系统:Ubuntu 22.04 / CentOS 7+
CPU处理器:建议 Intel i7 / AMD Ryzen 5 以上
内存:最少 16GB,推荐 32GB 以上,保证模型不卡顿
硬盘:至少 50GB SSD(模型存储+缓存)
GPU显卡:NVIDIA RTX 3090 / A100 / H100(24GB 显存更流畅)
基础软件安装:
Ubuntu / Debian 系统
update && sudo apt upgrade -ysudo apt install -y git wget curl python3 python3-venv python3-pip
CentOS / RHEL 系统
sudo yum update -ysudo yum install -y git wget curl python3 python3-venv python3-pip
温馨提示:
如果没有 GPU,也可以用 CPU 运行,但速度会慢很多。
第二步:安装 GPU 依赖
安装 NVIDIA 驱动
nvidia-smi # 确保系统正确识别 NVIDIA GPU
如果没有 NVIDIA 驱动,请安装:
sudo apt install -y nvidia-driver-525
sudo reboot
安装 CUDA & cuDNN(GPU 用户必装)
wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/x86_64/cuda-repo-ubuntu2204_11.8.0-1_amd64.deb
sudo dpkg -i cuda-repo-ubuntu2204_11.8.0-1_amd64.deb
sudo apt update
sudo apt install -y cuda
安装 cuDNN:
wget https://developer.download.nvidia.com/compute/cudnn/redist/cudnn-linux-x86_64-8.6.0.163_cuda11-archive.tar.xz
tar -xvf cudnn-linux-x86_64-8.6.0.163_cuda11-archive.tar.xz
sudo cp -P cudnn-linux-x86_64-8.6.0.163_cuda11-archive/include/* /usr/local/cuda/include/
sudo cp -P cudnn-linux-x86_64-8.6.0.163_cuda11-archive/lib/* /usr/local/cuda/lib64/
验证 CUDA 是否安装成功:
nvcc --version
第三步:安装 Ollama 管理大模型
1. 安装 Ollama
curl -fsSL https://ollama.ai/install.sh | sh
2. 检查安装是否成功
ollama help
# 如果看到帮助信息输出,恭喜你,Ollama 安装成功!
第四步:下载与部署 DeepSeek-R1
1. 选择合适的模型版本,下面代码中的 “1.5b” 是普通电脑能跑起来的。
ollama pull deepseek-r1:1.5b
1.5B 版本:轻量级,适合普通用户 7B 版本:兼顾性能和速度 13B 版本:高性能,适合 AI 发烧友
2. 开始运行
ollama run deepseek-r1:1.5b
成功后可能是这样
$ ollama pull deepseek-r1:1.5b
pulling manifest
pulling 6e9f90f02bb3... 100% ▕██████████████████████████▏ 9.0 GB
pulling 369ca498f347... 100% ▕██████████████████████████▏ 387 B
pulling 6e4c38e1172f... 100% ▕██████████████████████████▏ 1.1 KB
pulling f4d24e9138dd... 100% ▕██████████████████████████▏ 148 B
pulling 3c24b0c80794... 100% ▕██████████████████████████▏ 488 B
verifying sha256 digest
writing manifest
success
第五步:安装 Chatbox:方便使用
访问 Chatbox 官网 https://chatboxai.app/zh#download 下载 Linux 版本,或使用网页版。
配置 Chatbox 连接本地 DeepSeek-R1,然后开始聊天
打开 Chatbox,进入设置页面 选择 "Ollama API" 作为模型提供方 输入模型名称:deepseek-r1:1.5b
常见问题解决方案
1. 模型下载失败?
检查网络连接
关闭防火墙或检查代理设置
2. 运行卡顿?
降低模型版本(如 1.5B)
关闭其他后台进程
确保 GPU 正确启用 nvidia-smi
3. API 连接失败?
检查 Chatbox 是否正确配置 API 地址
确保 Ollama 正在运行