Ubuntu 系统部署 Ollama + DeepSeek + Docker + Ragflow

news2025/3/25 22:21:46

🌹作者主页:青花锁 🌹简介:Java领域优质创作者🏆、Java微服务架构公号作者😄

🌹简历模板、学习资料、面试题库、技术互助

🌹文末获取联系方式 📝

在这里插入图片描述


Mysql数据库规范

  • 一、Ollama 安装与端口配置
    • 1.1 一键安装
    • 1.2 修改默认端口(11434 → 50002)
    • 1.3 验证服务状态
    • 1.4 在ollama里安装deepSeek r1模型
      • 1.4.1、模型下载配置建议
      • 1.4.2、根据电脑配置,选择一个安装
  • 二、Docker 安装与优化
    • 2.1 安装前准备
    • 2.2 安装依赖项
    • 2.3 添加官方源并安装
    • 2.4 配置国内镜像加速
    • 2.5 验证安装
  • 三、Ragflow 部署指南
    • 3.1 下载代码
    • 3.2 修改配置
    • 3.3 启动服务
    • 3.4 查看日志与访问
  • 四、常见问题排查
  • 五、性能优化建议


一、Ollama 安装与端口配置

1.1 一键安装

curl -fsSL https://ollama.com/install.sh | sh

错误

curl: (56) OpenSSL SSL_read: error:0A000126:SSL routines::unexpected eof while reading, errno 0


gzip: stdin: unexpected end of file
tar: Child returned status 1
tar: Error is not recoverable: exiting now

解决方法
1、更新 Curl 和相关软件
首先,确保你的 curl 和其他相关软件(如 tar)是最新版本。可以通过以下命令更新:

 sudo apt update

2、检查 Curl 的 HTTP2 支持
确保你的 curl 支持 HTTP/2。可以通过以下命令查看:

curl --version

查看输出中是否包含 “HTTP2” 支持。如果没有,你可能需要重新安装支持 HTTP/2 的 curl 版本:

sudo apt install curl  # 通常会自动安装支持 HTTP/2 的版本

在这里插入图片描述
3、使用旧版本的 HTTP 协议
如果问题仍然存在,尝试使用 HTTP/1.1 而不是 HTTP/2。可以通过添加 --http1.1 参数到你的 curl 命令中:

curl --http1.1  -fsSL https://ollama.com/install.sh | sh

在这里插入图片描述
在这里插入图片描述

1.2 修改默认端口(11434 → 50002)

方法1:永久生效(推荐)

# 创建配置文件
mkdir -p ~/.ollama && echo '{"OLLAMA_HOST": "0.0.0.0:50002"}' > ~/.ollama/config.json

# 重启服务
sudo systemctl restart ollama

方法2:临时生效

export OLLAMA_HOST="0.0.0.0:50002"  # 或使用 OLLAMA_PORT=50002
ollama serve

方法3:设置开机自启

sudo tee /etc/systemd/system/ollama.service <<EOF
[Service]
Environment="OLLAMA_HOST=0.0.0.0:50002"
EOF

sudo systemctl daemon-reload && sudo systemctl restart ollama

1.3 验证服务状态

systemctl status ollama
curl http://localhost:50002/health  # 应返回 {"status": "healthy"}

1.4 在ollama里安装deepSeek r1模型

找到ollama里的模型下载地址:https://ollama.com/library/deepseek-r1
在这里插入图片描述

1.4.1、模型下载配置建议

询问文心一言,给出的指导建议
在这里插入图片描述

1.4.2、根据电脑配置,选择一个安装

例如:选中14b,复制命令:ollama run deepseek-r1:14b
在这里插入图片描述
安装过程, 等待进度100%
在这里插入图片描述
在这里插入图片描述


二、Docker 安装与优化

2.1 安装前准备

sudo apt update && sudo apt upgrade -y

# 卸载旧版本(如有)
sudo apt remove docker docker-engine docker.io containerd runc -y

2.2 安装依赖项

sudo apt install apt-transport-https ca-certificates curl gnupg-agent software-properties-common -y

2.3 添加官方源并安装

# 添加 GPG 密钥
curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo apt-key add -

# 添加 APT 源
sudo add-apt-repository "deb [arch=amd64] https://download.docker.com/linux/ubuntu $(lsb_release -cs) stable"

# 安装 Docker
sudo apt update && sudo apt install docker-ce docker-ce-cli containerd.io -y

2.4 配置国内镜像加速

sudo tee /etc/docker/daemon.json <<EOF
{
  "registry-mirrors": [
    "https://docker.mirrors.ustc.edu.cn",
    "https://reg-mirror.qiniu.com"
  ]
}
EOF

sudo systemctl restart docker

2.5 验证安装

docker --version
docker info | grep -A4 "Registry Mirrors"  # 检查镜像加速是否生效

三、Ragflow 部署指南

3.1 下载代码

git clone https://github.com/infiniflow/ragflow.git
cd ragflow/docker

3.2 修改配置

# 修改 .env 文件
sed -i 's/infiniflow\/ragflow:v0.16.0-slim/#infiniflow\/ragflow:v0.16.0-slim/g' .env

# 修改端口(示例改为50003)
sed -i 's/5000/50003/g' docker-compose.yml

3.3 启动服务

docker compose up -d

3.4 查看日志与访问

docker logs -f ragflow-server  # 实时查看日志
curl http://localhost:50003    # 或浏览器访问 http://服务器IP:50003

四、常见问题排查

  1. 端口冲突
    使用 netstat -tuln | grep <端口号> 检查端口占用,修改配置文件中的端口后重启服务。

  2. 防火墙阻止

    sudo ufw allow 50002/tcp  # Ollama
    sudo ufw allow 50003/tcp  # Ragflow
    
  3. Docker 镜像下载慢
    确保已配置国内镜像源,首次启动需耐心等待镜像下载完成。

  4. GPU 支持问题
    Ollama 需 PyTorch GPU 版本,安装前确认 CUDA 和 cuDNN 已正确安装。


五、性能优化建议

  1. Ollama 缓存路径
    ~/.ollama/config.json 中添加:

    "OLLAMA_CACHE_DIR": "/path/to/large/storage"
    
  2. Docker 资源限制
    docker-compose.yml 中限制内存和CPU:

    deploy:
      resources:
        limits:
          cpus: '2'
          memory: 8G
    
  3. 定期更新

    # Ollama
    sudo systemctl stop ollama && ollama update && sudo systemctl start ollama
    
    # Docker
    sudo apt update && sudo apt upgrade docker-ce -y
    

完成部署后,您可通过以下架构享受本地AI服务:
在浏览器打开:http://127.0.0.1:50003

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/2321574.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

第三讲 | C/C++内存管理完全手册

C/C内存管理 一、 C/C内存分布二、 C语言中动态内存管理方式&#xff1a;malloc/calloc/realloc/free三、 C内存管理方式1. new/delete操作内置类型2. new和delete操作自定义类型 四、operator new和operator delete函数&#xff08;重点&#xff09;五、new和delete的实现原理…

2021年蓝桥杯第十二届CC++大学B组真题及代码

目录 1A&#xff1a;空间&#xff08;填空5分_单位转换&#xff09; 2B&#xff1a;卡片&#xff08;填空5分_模拟&#xff09; 3C&#xff1a;直线&#xff08;填空10分_数学排序&#xff09; 4D&#xff1a;货物摆放&#xff08;填空10分_质因数&#xff09; 5E&#xf…

秒杀业务优化之从分布式锁到基于消息队列的异步秒杀

一、业务场景介绍 优惠券、门票等限时抢购常常出现在各类应用中&#xff0c;这样的业务一般为了引流宣传而降低利润&#xff0c;所以一旦出现问题将造成较大损失&#xff0c;那么在业务中就要求我们对这类型商品严格限时、限量、每位用户限一次、准确无误的创建订单&#xff0c…

纯vue手写流程组件

前言 网上有很多的vue的流程组件&#xff0c;但是本人不喜欢很多冗余的代码&#xff0c;喜欢动手敲代码&#xff1b;刚开始写的时候&#xff0c;确实没法下笔&#xff0c;最后一层一层剥离&#xff0c;总算实现了&#xff1b;大家可以参考我写的代码&#xff0c;可以拿过去定制…

WPS宏开发手册——使用、工程、模块介绍

目录 系列文章前言1、开始1.1、宏编辑器使用步骤1.2、工程1.3、工程 系列文章 使用、工程、模块介绍 JSA语法 第三篇练习练习题&#xff0c;持续更新中… 前言 如果你是开发人员&#xff0c;那么wps宏开发对你来说手拿把切。反之还挺吃力&#xff0c;需要嘻嘻&#xf…

django入门教程之request和reponse【二】

接上节&#xff1a;入门【一】 再创建一个orders子应用&#xff0c;python manager.py startapp orders&#xff0c;orders目录中新建一个urls.py文件。结构如图&#xff1a; 通过上节课&#xff0c;我们知道在views.py文件中编写函数时&#xff0c;有一个默认入参request&…

RAG优化:python从零实现[吃一堑长一智]循环反馈Feedback

本文将介绍一种有反馈循环机制的RAG系统,让当AI学会"吃一堑长一智",给传统RAG装了个"后悔"系统,让AI能记住哪些回答被用户点赞/拍砖,从此告别金鱼记忆: 每次回答都像在玩roguelike:失败结局会强化下次冒险悄悄把优质问答变成新知识卡牌,实现"以…

【Linux】VMware17 安装 Ubuntu24.04 虚拟机

目录 安装教程 一、下载 Ubuntu 桌面版iso映像 二、安装 VMware 三、安装 Ubuntu 桌面版 VMware 创建虚拟机 挂载 Ubuntu ISO 安装 Ubuntu 系统 安装教程 一、下载 Ubuntu 桌面版iso映像 链接来自 清华大学开源软件镜像站 ISO文件地址&#xff1a;ubuntu-24.04.2-des…

WPS宏开发手册——JSA语法

目录 系列文章2、JSA语法2.1、打印输出2.2、注释2.3、变量2.4、数据类型2.5、函数2.6、运算符2.7、比较2.8、if else条件语句2.9、for循环2.10、Math对象&#xff08;数字常用方法&#xff09;2.11、字符串常用方法2.12、数组常用方法 系列文章 使用、工程、模块介绍 JSA语…

word中指定页面开始添加页码

第一步&#xff1a; 插入页码 第二步&#xff1a; 把光标放到指定起始页码处 第三步&#xff1a; 取消链接到前一节 此时关掉页脚先添加分节符 添加完分节符后恢复点击 第四步&#xff1a; 设置页码格式&#xff0c;从1开始 第五步&#xff1a; 删掉不要的页码&#xff0c…

Python实现deepseek接口的调用

简介&#xff1a;DeepSeek 是一个强大的大语言模型&#xff0c;提供 API 接口供开发者调用。在 Python 中&#xff0c;可以使用 requests 或 httpx 库向 DeepSeek API 发送请求&#xff0c;实现文本生成、代码补全&#xff0c;知识问答等功能。本文将介绍如何在 Python 中调用 …

文档处理控件Aspose.Words 教程:.NET版中增强的 AI 文档摘要功能

Aspose.Words是一个功能强大的 Word 文档处理库。它可以帮助开发人员自动编辑、转换和处理文档。 自 24.11 版以来&#xff0c;Aspose.Words for .NET 提供了 AI 驱动的文档摘要功能&#xff0c;使用户能够从冗长的文本中快速提取关键见解。在 25.2 版中&#xff0c;我们通过使…

19,C++——11

目录 一、 C11简介 二、 新增的列表初始化 三、 新增的STL容器 四、 简化声明 1&#xff0c;auto 2&#xff0c;decltype 3&#xff0c;nullptr 五、右值引用 1&#xff0c;左值引用和右值引用 2&#xff0c;两种引用的比较 3&#xff0c;左值引用的使用场景 4&…

风尚云网|前端|前后端分离架构深度剖析:技术革新还是过度设计?

前后端分离架构深度剖析&#xff1a;技术革新还是过度设计&#xff1f; 作者&#xff1a;风尚云网 在数字化转型浪潮中&#xff0c;前后端分离架构已成为现代Web开发的主流模式。但这项技术真的是银弹吗&#xff1f;本文将从工程实践角度&#xff0c;剖析其优势与潜在风险&am…

CMS网站模板设计与用户定制化实战评测

内容概要 在数字化转型背景下&#xff0c;CMS平台作为企业内容管理的核心载体&#xff0c;其模板架构的灵活性与用户定制能力直接影响运营效率。通过对WordPress、Baklib等主流系统的技术解构发现&#xff0c;模块化设计理念已成为行业基准——WordPress依托超过6万款主题库实…

搭建个人博客教程(Hexo)

如何快速搭建一套本地的博客系统呢&#xff1f;这里有一套gitNode.jsHexo的部署方案来进行解决。 安装git Git 是一款免费开源的分布式版本控制系统&#xff0c;由 Linus Torvalds 于 2005 年为 Linux 内核开发设计。它通过本地仓库和远程仓库实现代码管理&#xff0c;支持分支…

Docker 可视化工具 Portainer

Docker 可视化工具 Portainer安装 官方安装地址&#xff1a;https://docs.portainer.io/start/install-ce/server/docker/wsl 一&#xff0c;首先&#xff0c;创建 Portainer Server 用来存储数据库的卷&#xff1a; docker volume create portainer_data二&#xff0c;然后…

数据库基础知识点(系列二)

1&#xff0e;关系数据模型由哪三个要素组成。 答&#xff1a;关系数据模型由关系数据结构、关系操作集合和关系完整性约束三部分组成。 2&#xff0e;简述关系的性质。&#xff08;关系就是一张二维表格&#xff0c;但不是任何二维表都叫关系&#xff09; 答&#xff1a;(1…

如何进行灌区闸门自动化改造-闸门远程控制系统建设

改造背景 操作效率低‌&#xff1a;人工启闭耗时耗力&#xff0c;单次操作需2-3人配合&#xff0c;耗时长。 ‌水资源浪费‌&#xff1a;依赖经验估算放水量&#xff0c;易导致漫灌或供水不足。 ‌管理滞后‌&#xff1a;无法实时监控水位、流量&#xff0c;故障响应延迟。 …

【算法笔记】图论基础(二):最短路、判环、二分图

目录 最短路松弛操作Dijkstra朴素Dijkstra时间复杂度算法过程例题 堆优化Dijkstra时间按复杂度算法过程例题 bellman-ford时间复杂度为什么dijkstra不能处理负权边&#xff1f;dijkstra的三个步骤&#xff1a;反例失效的原因 算法过程例题 spfa时间复杂度算法过程例题spfa求最短…