OpenAi以及Dify结合生成Ai模型

news2024/11/16 6:52:55

文章目录

1、Dify介绍
2、使用 Dify
3、部署Docker
- - 1.系统要求
  - 2.系统虚拟化
  - 3.下载docker
4、安装WSL
- - 1.检查是否已经安装
五、访问系统
六、添加模型

1、Dify介绍

Dify官方地址。

Dify 是一个开源的 LLM 应用开发平台。其直观的界面结合了 AI 工作流、RAG 管道、Agent、模型管理、可观测性功能等，让您可以快速从原型到生产。以下是其核心功能列表：

工作流: 在画布上构建和测试功能强大的 AI 工作流程，利用以下所有功能以及更多功能。
全面的模型支持: 与数百种专有/开源 LLMs 以及数十种推理提供商和自托管解决方案无缝集成，涵盖 GPT、Mistral、Llama3 以及任何与 OpenAI API 兼容的模型。完整的支持模型提供商列表可在此处找到。

在这里插入图片描述

Prompt IDE: 用于制作提示、比较模型性能以及向基于聊天的应用程序添加其他功能（如文本转语音）的直观界面。
RAG Pipeline: 广泛的 RAG 功能，涵盖从文档摄入到检索的所有内容，支持从 PDF、PPT 和其他常见文档格式中提取文本的开箱即用的支持。
Agent 智能体: 您可以基于 LLM 函数调用或 ReAct 定义 Agent，并为 Agent 添加预构建或自定义工具。Dify 为 AI Agent 提供了50多种内置工具，如谷歌搜索、DALL·E、Stable Diffusion 和 WolframAlpha 等。
LLMOps: 随时间监视和分析应用程序日志和性能。您可以根据生产数据和标注持续改进提示、数据集和模型。
后端即服务: 所有 Dify 的功能都带有相应的 API，因此您可以轻松地将 Dify 集成到自己的业务逻辑中。

功能比较

2、使用 Dify

克隆 Dify 源代码至本地：

git clone https://github.com/langgenius/dify.git

在这里插入图片描述

启动Dify:

cd dify/docker
cp .env.example .env
docker compose up -d

在这里插入图片描述

注意

如果您的系统安装了 Docker Compose V2 而不是 V1，请使用 docker compose 而不是 docker-compose。通过 docker compose version检查这是否为情况。

3、部署Docker

根据上面提示用到了dokcer,那么现在就要在本地Windows安装Docker。

1.系统要求

1.1 最低要求
对于 x64 系统：版本 1903 或更高版本，内部版本为 18362.1049 或更高版本。
对于 ARM64 系统：版本 2004 或更高版本，内部版本为 19041 或更高版本。
1.2 标准
Windows 10 版本 2004 及更高版本（内部版本 19041 及更高版本）或 Windows 11。

2.系统虚拟化

打开任务管理器，选择性能，查看CPU虚拟化，确认是否已启用（默认启用）。
如果未启用，则需要添加虚拟化功能：控制面板 -> 启用或关闭Windows功能。
选择Hyper-V的所有功能，确定：
系统会自动搜索并安装功能。安装完毕即可。
全部打勾，然后重启电脑。

3.下载docker

docker下载：
docker下载地址。
安装
双击安装包下一步即可。

恭喜已经成功完成 Windows 版 Docker 的安装。
但是，打开Docker会报错，原因是windows运行linux内核系统需要安装Linux 内核更新包。
在这里插入图片描述

下载linux内核更新包

参考： WSL 的手动安装步骤—步骤 4 - 下载 Linux 内核更新包

点击下载最新包：wsl_update_x64.msi

运行安装向导，并按照提示一步一步完成整个安装过程

设置默认wsl默认版本，用系统管理员的角色打开windows的powershell，然后运行如下命令：

wsl --set-default-version 2

在这里插入图片描述

重启电脑，再运行docker就正常了。
打开命令行或者 PowerShell 界面，输入docker version命令，看到下图就表示成功安装了。
更换Docker镜像：
- 如果直接使用Docker,镜像会从官网直接进行拉取，网络会比较慢，因此需要更换镜像源。
以下为我的代码示例，在registry-mirrors中添加镜像加速地址，可以添加多个，注意用逗号隔开：

{"registry-mirrors":[
  "https://registry.docker-cn.com",
  "https://docker.mirrors.ustc.edu.cn",
  "https://hub-mirror.c.163.com"
],

  "builder": {
    "gc": {
      "defaultKeepStorage": "20GB",
      "enabled": true
    }
  },
  "experimental": false
}

在这里插入图片描述
镜像加速器镜像加速器地址
Docker 中国官方镜像 https://registry.docker-cn.com
DaoCloud 镜像站 http://f1361db2.m.daocloud.io
Azure 中国镜像 https://dockerhub.azk8s.cn
科大镜像站 https://docker.mirrors.ustc.edu.cn
阿里云 https://ud6340vz.mirror.aliyuncs.com
七牛云 https://reg-mirror.qiniu.com
网易云 https://hub-mirror.c.163.com
腾讯云 https://mirror.ccs.tencentyun.com
在这里插入图片描述