【Python大语言模型系列】在阿里云ECS服务器上部署dify大模型应用开发平台(完整教程)

news2024/11/17 13:26:26

这是我的第360篇原创文章。

一、阿里云ECS简介

云服务器( Elastic Compute Service ,简称ECS )是一-种简单高效、处理能力可弹性伸缩的计算服务,帮助您快速构建更稳定、安全的应用,提升运维效率,降低IT成本,使您更专注于核心业务创新。

这个活动需要满足是新用户的条件,然后进入 https://free.aliyun.com/?spm=5176.13830350.J_9630841290.4.3b3750d0kpmRdO&product=1351页面即可免费体验阿里云ECS了。

图片

进入页面之后我们可以选择我们需要的配置:

图片

开通服务器后,首先修改服务器的登陆密码,点击重置实例密码:

图片

创建的实例:

图片

我们通过远程连接的方式,进入这个实例:

图片

当然,也可以用Xshell或其他远程连接软件连上服务器(输入root和密码),根据公网ip地址连上。

二、在ECS上安装Docker

安装dify的两个前提条件:

图片

2.1 下载Docker的依赖环境

安装Docker,首先要下载他所依赖的环境

图片

2.2 指定Docker镜像源

默认下载Docker会去国外服务器下载,速度较慢,可以设置为阿里云镜像源,速度更快

图片

2.3 安装Docker

开始安装Docker

图片

2.4 设置启动方式

安装成功后,需要手动启动,设置为开机启动

图片

2.5 测试docker

测试(Docker自带的hello-world)

图片

2.6 查看docker版本

看一下docker的版本:

图片

三、在ECS上安装Docker Compose

3.1 方式一:curl

curl:

# 1 国内镜像秒下载
curl -L https://get.daocloud.io/docker/compose/releases/download/1.25.5/docker-compose-`uname -s`-`uname -m`  > /usr/local/bin/docker-compose
# 2 修改文件执行权限
sudo chmod +x /usr/local/bin/docker-compose
#  3 创建软链
sudo ln -s /usr/local/bin/docker-compose /usr/bin/docker-compose
# 4 测试是否安装成功
docker-compose --version

3.2 方式二:wget

wget:

# 1.去github官网搜索docker-compose,下载1.24.1版本的Docker-Compose
# 下载路径:
wget https://github.com/docker/compose/releases/download/1.24.1/docker-compose-Linux-x86_64

# 2.设置权限
# 需要将DockerCompose文件的名称修改一下,给予DockerCompose文件一个可执行的权限
mv docker-compose-Linux-x86_64 docker-compose
chmod 777 docker-compose

# 3.配置环境变量
# 方便后期操作,配置一个环境变量
# 将docker-compose文件移动到了/usr/local/bin,修改了/etc/profile文件,给/usr/local/bin配置到了PATH中
 
mv docker-compose /usr/local/bin
vi /etc/profile
# 添加内容:export PATH=/usr/local/bin:$PATH
source /etc/profile

# 4.测试
在任意目录下输入docker-compose

3.3 方式三:pip

pip:

# 1.运行以下命令,安装setuptools。
pip3 install -U pip setuptools
# 2.运行以下命令,安装docker-compose。
pip3 install docker-compose
# 3.运行以下命令,验证docker-compose是否安装成功。
docker-compose --version

四、按照dify提供的官方教程进行部署

克隆dify 源代码至本地环境(这里的本地就是这台阿里云ECS)

图片

如果没有git工具,需要安装:

图片

进入dify源代码的 Docker 目录;复制环境配置文件;

图片

选择合适的命令来启动容器。你可以通过  docker compose version 命令检查版本,启动 Docker 容器:如果版本是 Docker Compose V2,使用以下命令:

图片

报错:

图片

在尝试用docker-compose启动应用时遇到网络创建失败的错误,具体表现为无法启用SKIPDNAT规则的iptables操作。错误源于防火墙在Docker服务启动后被关闭。解决方案是重启Docker服务以消除此问题。

图片

重新启动 Docker 容器,,运行命令后,你应该会看到类似以下的输出,显示所有容器的状态和端口映射:

图片

最后检查是否所有容器都正常运行:

图片

在这个输出中,你应该可以看到包括 3 个业务服务 api / worker / web,以及 6 个基础组件 weaviate / db / redis / nginx / ssrf_proxy / sandbox 。都启动了。

五、在ESC部署的dify上进行大模型应用开发

5.1 配置ESC安全组的访问规则

我使用本机去 ping 公网 ip 结果可以 ping 通,直接使用它给我提供的公网 ip 进行访问,结果显示访问失败,这需要在云服务器上进行配置:点击安全组,添加访问规则,设置80端口:

图片

5.2 公网访问

输入公网ip,就可以进入部署在ESC的dify平台了

图片

5.3 开发并发布AI大模型应用(Maas)-模型即服务

设置管理员账户:

图片

之后进入:

图片

就可以在这台云服务器ESC上进行开发工作流或者Agent了。

作者简介:

读研期间发表6篇SCI数据挖掘相关论文,现在某研究院从事数据算法相关科研工作,结合自身科研实践经历不定期分享关于Python、机器学习、深度学习、人工智能系列基础知识与应用案例。致力于只做原创,以最简单的方式理解和学习,关注我一起交流成长。需要数据集和源码的小伙伴可以关注底部公众号添加作者微信。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/2170593.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

Vatee万腾平台:企业智能化生态的领航者

在科技日新月异的今天,企业的智能化转型已成为不可逆转的趋势。Vatee万腾平台,凭借其前瞻性的技术视野和不懈的创新精神,正逐步构建起一个以智能化为核心的新型商业生态,成为推动企业智能化升级的核心力量。 Vatee万腾平台深谙技…

软件设计之Maven(1)

软件设计之Maven(1) 路线图推荐: 【Java学习路线-极速版】【Java架构师技术图谱】 尚硅谷新版Maven教程(高效入门maven,上手又快又稳) 资料可以去尚硅谷官网免费领取 学习内容: Maven简介安装与环境配置Maven工程GA…

【机器学习(九)】分类和回归任务-多层感知机(Multilayer Perceptron,MLP)算法-Sentosa_DSML社区版

文章目录 一、算法概念二、算法原理(一)感知机(二)多层感知机1、隐藏层2、激活函数sigma函数tanh函数ReLU函数 3、反向传播算法 三、算法优缺点(一)优点(二)缺点 四、MLP分类任务实现…

【html网页制作】国庆节日主题网页制作含js轮播(5页面附效果源码)

HTMLCSS节日国庆主题网页制作 🍔涉及知识🥤写在前面🍧一、网页主题🌳二、网页效果菜单切换效果PageA、整体页Page1、首页Page2、节日由来Page3、节日视频Page4、庆祝活动Page5、留言 🐋三、网页架构与技术3.1 脑海构思…

# linux从入门到精通(二)

linux从入门到精通(二) 一、Linux系统的安装:新建VM虚拟机 1、Linux版本的选择 1)版本选择:CentOS 6.5 【镜像一般都是xxx.iso文件】 2)为什么不选择7.x版本? 6.x的各种系统操作模式是基础…

python绘制图像

柱状图 import os# 输入想要存储图像的路径 os.chdir(D:)import matplotlib.pyplot as plt import numpy as np # 改变绘图风格 import seaborn as snssns.set(color_codesTrue)cell [gen7, xgspon, 3081GB, vettel, totalplay, other] pvalue [21, 20, 18, 13, 7, 34]width…

​​XrayGLM原理与部署

接上一篇:VisualGLM-6B——原理与部署-CSDN博客 XrayGLM技术背景与原理 XrayGLM 是一种基于 VisualGLM-6B 微调开发的多模态医学影像诊断模型,专门用于处理医学影像(如 X 光胸片)的自动诊断和报告生成任务。该模型旨在为中文医学…

第8章_索引的创建与设计原则

1. 索引的声明与使用 1.1 索引的分类 MySQL的索引包括普通索引、唯一性索引、全文索引、单列索引、多列索引和空间索引等。 从 功能逻辑 上说,索引主要有 4 种,分别是普通索引、唯一索引、主键索引、全文索引。 按照 物理实现方式 ,索引可以…

医疗器械中的国产光耦合器浅析

光耦合器,也称为光隔离器,在确保医疗器械的安全性和性能方面发挥着关键作用。通过在系统的不同部分之间提供电气隔离,它们可以防止信号干扰、保护敏感元件并保护患者免受电击。近年来,国产光耦合器制造商一直在加紧生产可靠的高性…

时也命也!转念的力量(深度好文)——早读(逆天打工人爬取热门微信文章解读)

时也命也 引言Python 代码第一篇 洞见 转念的力量(深度好文)第二篇 意想不到的收入结尾 早上上交所宕机 很多股票都横成直线 我的股却跳了一下水 我怕出什么监管事故 跟着卖出去了 然后查了一下 发现是上交所被买爆了 我想了一下 服务器问题 那么能否事后…

OpenEuler配置本地yum源

0x00 服务器版本 将本地镜像传输至服务器 操作步骤如下 # 创建一个目录用于挂载光盘映像 mkdir /media/cdrom/# 将光盘映像挂载到指定目录 mount /kvm/openeuler.iso /media/cdrom/#进入Yum仓库配置目录 cd /etc/yum.repos.d/# 备份原有的 openEuler.repo 文件 mv openEuler.…

解读: 火山引擎自研vSwitch技术

最近看到一篇文章介绍火山云的网络vSwitch技术,虽然是2022年的比较老的介绍,但是对于我们看到vSwitch技术的发展还是有些参考的。下面就截取了当时火山vSwitch关心的几个问题,做了一下梳理。 背景 在云计算发展过程中,虚拟网络的…

国内光耦合器制造商如何满足特殊行业的需求

在航空航天、国防、电信等行业,对定制解决方案的需求正在增长。通用光耦合器可能并不总是适合这些专业领域的特定要求,因为这些领域必须满足独特的环境条件、尺寸限制和性能基准。国内光耦合器制造商一直在加紧努力,提供可定制的解决方案&…

从 0 到 1:互联网产品经理核心技能全解析

在互联网的浩瀚海洋中,产品经理如同领航员,决定着产品从无到有的走向和命运。从 0 到 1 打造一款互联网产品,需要产品经理具备多方面的核心技能。今天,我们就来详细解读这些关键能力。 一、洞察市场趋势 时刻关注行业动态 互联网…

AOT源码解析4.1-对输入数据和mask进行处理(Associating Objects with Transformers for Video Object Segmentation)

论文阅读 papergithub论文阅读笔记AOT源码解析1-数据集处理AOT源码解析2-encoderdecoderAOT源码解析3-模型训练AOT源码解析4.1-model主体AOT源码解析4.2-model主体AOT源码解析4.3-model主体AOT源码解析4.4-model主体AOT源码解析4.5-model主体 输入数据 VOS的数据集处理操作可…

Python基础语句教学

Python是一种高级的编程语言,由Guido van Rossum于1991年创建。它以简单易读的语法和强大的功能而闻名,被广泛用于科学计算、Web开发、数据分析等领域。 Python的应用领域广泛,可以用于开发桌面应用程序、Web应用、游戏、数据分析、人工智能等…

【中台资料】数字中台建设资料合集(Word,PPT)

目录 1 编写目的 2 背景概述 3 中台概念 4 推动企业组织模式演进 5 建设方法 6 中台内容 7 数据安全体系 8 参考资料 软件全套资料部分文档清单: 工作安排任务书,可行性分析报告,立项申请审批表,产品需求规格说明书,需…

Redis 的 Java 客户端有哪些?官方推荐哪个?

Redis 官网展示的 Java 客户端如下图所示,其中官方推荐的是标星的3个:Jedis、Redisson 和 lettuce。 Redis 的 Java 客户端中,Jedis、Lettuce 和 Redisson 是最常用的三种。以下是它们的详细比较: Jedis: 线程安全&…

springboot在线教学平台

基于springbootvue实现的在线教学平台 (源码L文ppt)4-069 4.1系统结构设计 这些功能可以充分满足在线教学平台的需求。此系统功能较为全面如下图系统功能结构如图4-1所示。 图4-1功能结构图 4.2系统功能模块设计 在线教学平台的使用者主要有二类…

AI视频技术:引领影视剧拍摄的未来

大家好,我是Shelly,一个专注于输出AI工具和科技前沿内容的AI应用教练,体验过300款以上的AI应用工具。关注科技及大模型领域对社会的影响10年。关注我一起驾驭AI工具,拥抱AI时代的到来。 当科技遇见艺术,一场视听盛宴正…