DeepSeek R1 本地部署指南 (1) - Windows 本地部署
上一篇,安装好 Windows 本地步骤后,如果发现在任务管理器中 GPU 显示 0%。
1.在命令行中输入:
ollama ps
显示:
PROCESSOR
CPU
2.安装 CUDA Toolkit
CUDA Toolkit Downloads
https://developer.nvidia.com/cuda-downloads
如图,选择系统具体类型后,点击 Download 下载安装。
3.检测 CUDA 安装成功
nvcc --version
显示 cuda_12.8
nvidia-smi
显示 CUDA Version: 12.8
4. 启动 Ollama
ollama run deepseek-r1:70b
5.参看 Ollama GPU
ollama ps
PROCESSOR
68%/32% CPU/GPU
6.输入问答时,查看任务管理器 GPU 使用率
完成