这是我的第360篇原创文章。
一、阿里云ECS简介
云服务器( Elastic Compute Service
,简称ECS
)是一-种简单高效、处理能力可弹性伸缩的计算服务,帮助您快速构建更稳定、安全的应用,提升运维效率,降低IT
成本,使您更专注于核心业务创新。
这个活动需要满足是新用户的条件,然后进入 https://free.aliyun.com/?spm=5176.13830350.J_9630841290.4.3b3750d0kpmRdO&product=1351页面即可免费体验阿里云ECS了。
进入页面之后我们可以选择我们需要的配置:
开通服务器后,首先修改服务器的登陆密码,点击重置实例密码:
创建的实例:
我们通过远程连接的方式,进入这个实例:
当然,也可以用Xshell或其他远程连接软件连上服务器(输入root和密码),根据公网ip地址连上。
二、在ECS上安装Docker
安装dify的两个前提条件:
2.1 下载Docker的依赖环境
安装Docker,首先要下载他所依赖的环境
2.2 指定Docker镜像源
默认下载Docker会去国外服务器下载,速度较慢,可以设置为阿里云镜像源,速度更快
2.3 安装Docker
开始安装Docker
2.4 设置启动方式
安装成功后,需要手动启动,设置为开机启动
2.5 测试docker
测试(Docker自带的hello-world)
2.6 查看docker版本
看一下docker的版本:
三、在ECS上安装Docker Compose
3.1 方式一:curl
curl:
# 1 国内镜像秒下载
curl -L https://get.daocloud.io/docker/compose/releases/download/1.25.5/docker-compose-`uname -s`-`uname -m` > /usr/local/bin/docker-compose
# 2 修改文件执行权限
sudo chmod +x /usr/local/bin/docker-compose
# 3 创建软链
sudo ln -s /usr/local/bin/docker-compose /usr/bin/docker-compose
# 4 测试是否安装成功
docker-compose --version
3.2 方式二:wget
wget:
# 1.去github官网搜索docker-compose,下载1.24.1版本的Docker-Compose
# 下载路径:
wget https://github.com/docker/compose/releases/download/1.24.1/docker-compose-Linux-x86_64
# 2.设置权限
# 需要将DockerCompose文件的名称修改一下,给予DockerCompose文件一个可执行的权限
mv docker-compose-Linux-x86_64 docker-compose
chmod 777 docker-compose
# 3.配置环境变量
# 方便后期操作,配置一个环境变量
# 将docker-compose文件移动到了/usr/local/bin,修改了/etc/profile文件,给/usr/local/bin配置到了PATH中
mv docker-compose /usr/local/bin
vi /etc/profile
# 添加内容:export PATH=/usr/local/bin:$PATH
source /etc/profile
# 4.测试
在任意目录下输入docker-compose
3.3 方式三:pip
pip:
# 1.运行以下命令,安装setuptools。
pip3 install -U pip setuptools
# 2.运行以下命令,安装docker-compose。
pip3 install docker-compose
# 3.运行以下命令,验证docker-compose是否安装成功。
docker-compose --version
四、按照dify提供的官方教程进行部署
克隆dify 源代码至本地环境(这里的本地就是这台阿里云ECS)
如果没有git工具,需要安装:
进入dify源代码的 Docker 目录;复制环境配置文件;
选择合适的命令来启动容器。你可以通过 docker compose version 命令检查版本,启动 Docker 容器:如果版本是 Docker Compose V2,使用以下命令:
报错:
在尝试用docker-compose启动应用时遇到网络创建失败的错误,具体表现为无法启用SKIPDNAT规则的iptables操作。错误源于防火墙在Docker服务启动后被关闭。解决方案是重启Docker服务以消除此问题。
重新启动 Docker 容器,,运行命令后,你应该会看到类似以下的输出,显示所有容器的状态和端口映射:
最后检查是否所有容器都正常运行:
在这个输出中,你应该可以看到包括 3 个业务服务 api / worker / web,以及 6 个基础组件 weaviate / db / redis / nginx / ssrf_proxy / sandbox 。都启动了。
五、在ESC部署的dify上进行大模型应用开发
5.1 配置ESC安全组的访问规则
我使用本机去 ping 公网 ip 结果可以 ping 通,直接使用它给我提供的公网 ip 进行访问,结果显示访问失败,这需要在云服务器上进行配置:点击安全组,添加访问规则,设置80端口:
5.2 公网访问
输入公网ip,就可以进入部署在ESC的dify平台了
5.3 开发并发布AI大模型应用(Maas)-模型即服务
设置管理员账户:
之后进入:
就可以在这台云服务器ESC上进行开发工作流或者Agent了。
作者简介:
读研期间发表6篇SCI数据挖掘相关论文,现在某研究院从事数据算法相关科研工作,结合自身科研实践经历不定期分享关于Python、机器学习、深度学习、人工智能系列基础知识与应用案例。致力于只做原创,以最简单的方式理解和学习,关注我一起交流成长。需要数据集和源码的小伙伴可以关注底部公众号添加作者微信。