基于ollama搭建本地deepseek大模型服务
- 简介
- 准备工作
-
- 系统要求
- ollama的安装
-
- ollama 模型
- ollama 安装流程
- ollama 如何运行大模型
- 前端部署
- 注意事项
简介
本指南旨在帮助初学者在本地环境中设置和运行DeepSeek大模型服务。本文将使用Ollama平台来简化这一过程,确保即使是新手也能顺利完成安装。
准备工作
系统要求
- 操作系统:Linux或MacOS(Windows用户可以考虑使用WSL)
- 内存:建议至少16GB RAM
- 存储空间:根据所选模型大小而定,建议预留至少50GB可用空间
ollama的安装
ollama : github | 官网.
ollama 模型
在ollama官网提供了很多最新的大模型。如下:
基本上开源的模型都能在上面找到,大家根据自己需求去安装。
ollama 安装流程
在ollama 源码目录下有readme文档,安装过程写的很详细,自己可以参考。连接打不开或不想看的下面简单介绍一下。
- macOS平台下载链接(https://ollama.com/download/Ollama-darwin.zip)
- windows平台下载链接(https://ollama.com/download/OllamaSetup.exe)
- Linux平台 执行下面命令:
curl -fsSL https://ollama.com/install.sh