1. Ollama 安装
- Ollama 官网地址: https://ollama.com/
- 安装包网盘地址: https://pan.baidu.com
2. Deepseek 部署
根据自己电脑配置和应用需求选择不同模型,配置不足会导致运行时候卡顿。
版本 | 安装指令 | 模型大小 | 硬盘(存储) | 显卡(显存) | 内存(RAM) | CPU(核心) | 适用场景 |
---|---|---|---|---|---|---|---|
Qwen 1.5B蒸馏版 | ollama run deepseek-r1:1.5b | 1.1G | 3G+ | 非必须 | 8GB+ | 4+ | 低资源设备(树莓派、笔记本等) |
Qwen 7B蒸馏版 | ollama run deepseek-r1:75b | 4.7G | 8G+ | 8G+(RTX 3070/4060) | 16GB+ | 8+ | 中小型企业开发、中等复杂度NLP任务 |
Llama 8B蒸馏版 | ollama run deepseek-r1:8b | 4.9G | 10G+ | 8G+(RTX 3070/4060) | 16GB+ | 8+ | 轻量级任务(代码生成、逻辑推理) |
Qwen 14B蒸馏版 | ollama run deepseek-r1:14b | 9G | 15G+ | 16G+(RTX 4090/A5000) | 32GB+ | 12+ | 轻量级任务(代码生成、逻辑推理) |
Qwen 32B蒸馏版 | ollama run deepseek-r1:32b | 20G | 40G+ | 24G+(双卡RTX 3090/A100 40G) | 64GB+ | 16+ | 高精度专业领域任务(医疗、法律咨询等) |
Llama 70B蒸馏版 | ollama run deepseek-r1:70b | 43G | 70G+ | 多卡(2个A100 80G/4个RTX 4090) | 128GB+ | 32+ | 科研机构/大型企业(金融预测、数据分析) |
满血版 | ollama run deepseek-r1:671b | 404G | 300G+ | 多节点分布式训练(如8个 A100/H100) | 512GB+ | 64+ | 超大规模AI研究、通用人工智能(AGI)探索 |
3. cherry studio部署
4. 体验