Dify安装使用说明

news2024/9/22 15:51:35

dify功能简介

dify可以说是一个功能不错的LLMOps，可以通过dify集中管理模型，可以通过界面创建AI应用，可以上传文档形成知识库，可以创建自定义工具（API），并可以对外提供API。

相关功能类似Openai的GPTs或智谱的智能体，其他大厂的大模型也有类似功能，不过貌似只有dify是开源的。

这就为个人本地部署AI应用提供了便利。

dify安装部署

dify提供docker方式安装，不过不同于一般的项目只有一个docker容器，dify有多个容器需要部署切相互之间还有调用关系，因此这里用到了yaml文件。

首先打开dify的Github地址如下，看下dify基本功能介绍

dify Github 地址 langgenius/dify: An Open-Source Assistants API and GPTs alternative. Dify.AI is an LLM application development platform. It integrates the concepts of Backend as a Service and LLMOps, covering the core tech stack required for building generative AI-native applications, including a built-in RAG engine. (github.com)https://github.com/langgenius/dify接下来要安装部署，就不要看readme写的了，对于小白来说，容易被误导（比如我就是。。），我们直接看dify官网详细的部署说，其实操作过一次，就基本清楚了

通过docker部署difyhttps://docs.dify.ai/v/zh-hans/getting-started/install-self-hosted/docker-compose基本过程：

1、通过git clone 下载dify代码

git clone https://github.com/langgenius/dify.git

2、切到dify下docker文件夹运行docker容器

cd dify/docker
docker compose up -d

这个时候docker compose会根据docker-compose.yaml文件的配置运行docker容器。

之前我天真以为运行docker都需要从dockerhub下载镜像然后运行，其实可以自己构建镜像然后运行，通过yaml文件实现更灵活更复杂的容器部署。

3、访问并初始化

docker容器列表中可以看到已经成功运行7个容器，但是只有nginx容易对外暴漏了端口，默认的80，点击即可打开dify系统。第一次需要先新建账号、密码，后续即可账号、密码登录开始使用dify。端口号也可以通过docker-compose.yaml自行修改，修改后再次执行docker compose up -d即可。

4、应用预览、API地址调整

如果修改了默认端口号，那么应用预览、API地址也需要响应做调整，相关配置也在yaml文件，不过在api容器下

SERVICE_API_URL: 'http://localhost:1080'

APP_WEB_URL: 'http://localhost:1080'

dify使用

模型设置

首先需要进行模型设置，应用要可以使用都是依赖于模型提供推理服务。dify支持的模型还算比较全，Openai、讯飞星火、智谱chatglm、零一万物、通义千问、文心一言、月之暗面，还支持Ollama、localai，还有一个选项是兼容Openai的模型，这样我就可以把本地部署的one-api也可以配置上。模型配置这块可以打个高分。

操作：

1、首页右上角，点击个人账户，下拉点击设置，即可打开设置页面

2、左侧点击模型供应商，配置需要的模型即可，目前智谱、通义千问、讯飞、零一都可以薅羊毛

3、这里一定要配置好系统模型，新建应用自动生成提示词、显示回答问题提示都用到了，配置就在当前页面的右上角“系统模型设置”

4、模型验证，首页随便新建一个应用，如果可以正常聊天有回复，说明模型配置成功