AGI 之 【Dify】 之 使用 Docker 在 Windows 端本地部署 Dify 大语言模型(LLM)应用开发平台

news2025/1/15 8:37:51

AGI 之 【Dify】 之  使用 Docker 在 Windows 端本地部署 Dify 大语言模型(LLM)应用开发平台

目录

AGI 之 【Dify】 之  使用 Docker 在 Windows 端本地部署 Dify 大语言模型(LLM)应用开发平台

一、简单介绍

二、Docker 下载安装

三、Dify 下载安装,及部署

附录:一些报错问题处理

一、启动容器报错 Get "https://registry-1.docker.io/v2/": net/http: request canceled

二、docker compose up -d 的时候,docker-db-1 总是重启 Restarting,无法正常 Running


一、简单介绍

AGI,即通用人工智能(Artificial General Intelligence),是一种具备人类智能水平的人工智能系统。它不仅能够执行特定的任务,而且能够理解、学习和应用知识于广泛的问题解决中,具有较高的自主性和适应性。AGI的能力包括但不限于自我学习、自我改进、自我调整,并能在没有人为干预的情况下解决各种复杂问题。

Dify 是一个开源的大语言模型(LLM)应用开发平台,它旨在简化和加速生成式 AI 应用的创建和部署。这个平台结合了后端即服务(Backend as Service, BaaS)和 LLMOps 的理念,为开发者提供了一个用户友好的界面和一系列强大的工具,使他们能够快速搭建生产级的 AI 应用。

Dify 的核心功能包括:

  1. 低代码/无代码开发:通过可视化的方式允许开发者轻松定义 Prompt、上下文和插件等,无需深入底层技术细节。
  2. 模块化设计:采用模块化的设计,每个模块都有清晰的功能和接口,可以根据需求选择性地使用。
  3. 丰富的功能组件:包括 AI 工作流、RAG 管道、Agent、模型管理、可观测性功能等,帮助开发者从原型到生产的全过程。
  4. 支持多种大语言模型:已支持 OpenAI GPT 系列等模型,并计划进一步扩展。
  5. 数据处理和特征工程工具:提供了数据清洗、特征选择、特征变换等功能,帮助开发者更好地准备数据。
  6. 集成外部知识源:允许自定义 API 接入外部知识源,让大型语言模型深入理解企业知识和业务。

Dify 提供了四种基于 LLM 构建的应用程序,可以针对不同的应用场景和需求进行优化和定制,包括聊天助手、文本生成、智能代理和工作流程。此外,Dify 还支持从 Notion 导入数据,并设置同步,使得数据在 Notion 更新后便自动同步到 Dify。Dify 中存在知识库数据集的单独 API,这与他的服务 API 不同,可以单独使用数据集的 API。

Dify 适合各种技术背景的开发者使用,即使是没有编程基础的用户也能快速上手并参与到 AI 应用的定义和数据运营过程中。作为一个开源项目,Dify 在 GitHub 上有活跃的社区支持,鼓励用户贡献和分享经验。

Docker 是一个开源的应用容器引擎,它允许开发者打包他们的应用以及应用的依赖包到一个可移植的容器中,然后发布到任何流行的 Linux 机器上,也可以实现虚拟化。容器是完全使用沙箱机制,相互之间不会有任何接口。

Docker 的主要特点包括:

  1. 轻量级:Docker 容器与其他虚拟化技术相比,占用的资源更少,启动速度更快。

  2. 可移植性:Docker 容器可以在不同的机器、数据中心或云服务提供商之间轻松移动。

  3. 环境一致性:Docker 确保应用在不同环境之间具有一致性,从而减少了“在我机器上可以运行”的问题。

  4. 快速部署:Docker 容器的启动时间通常只需几秒钟,这使得部署应用变得更加迅速。

  5. 微服务架构:Docker 容器非常适合微服务架构,每个服务可以独立运行在自己的容器中。

  6. 版本控制和团队协作:Docker 容器可以与现代的 DevOps 工具链紧密结合,支持持续集成和持续部署(CI/CD)。

  7. 隔离性:每个容器都是相互隔离的,运行在自己的环境中,拥有自己的文件系统。

  8. 安全性:容器提供了一个额外的安全层,因为它们运行在用户空间,并且可以利用 Linux 内核的安全特性。

Docker 使用客户端-服务器架构,使用 Docker 守护进程来管理容器。Docker 客户端与守护进程通信,而守护进程负责构建、运行和分发容器。用户可以通过命令行接口(CLI)、Docker Compose(用于定义和运行多容器 Docker 应用的工具)或图形用户界面(GUI)与 Docker 交互。

注意 Dify Docker部署有部署要求,不过目前一般的电脑都符合要求:

二、Docker 下载安装

Docker Windows 版本下载地址:Windows | Docker Docs

为了在 Windows 系统上部署 Dify,你需要先安装 Docker Desktop。

Windows 中的 Docker 可以依赖于两种环境:Hyper-V(虚拟环境)和 WSL(Windows Linux 子系统)。

其中,利用 WSL 环境的部署方案,这需要你从 Microsoft Store 下载一个 Linux 发行版。

如果你的电脑无法使用 Microsoft Store 下载,比如生产环境电脑,那么可以选择使用基于 Hyper-V 的部署方法。启用 Hyper-V 环境的两种方法,下面介绍启用 Hyper-V 环境的方法,任选其一操作即可:

1、以管理员权限打开 PowerShell 控制台

2、输入如下命令即可

Enable-WindowsOptionalFeature -Online -FeatureName Microsoft-Hyper-V -All 

3、或者使用 “启用或关闭 Windows 功能”,找到并勾选“Hyper-V”,然后点击“确定”按钮以启用该功能

4、开启 Hyper-V 功能,会提示重启电脑,这时候重启电脑即可

5、下载 Docker ,根据需要选择下载即可

6、下载好Docker ,双击安装即可

值得注意的是如果使用 Hyper-V ,则需要取消勾选第一项

三、Dify 下载安装,及部署

Dify 官网:Dify.AI · 生成式 AI 应用创新引擎

Dify 进行 Docker Compose 部署可以参考:https://docs.dify.ai/zh-hans/getting-started/install-self-hosted/docker-compose

1、进入 Dify  官网,如图点击进入 Github ,克隆或者下载代码

2、下载好后,Shift + 鼠标右键,打开 Powershell

3、在 Powershell 中,进入 Dify 源代码的 Docker 目录 ,复制环境配置文件

命:1:cd .\docker\

命令2:cp .env.example .env

4、这里就要启动 Docker,确定当前的 Docker  版本

根据你系统上的 Docker Compose 版本,选择合适的命令来启动容器。

你可以通过命令:docker compose version 检查版本

  •     如果版本是 Docker Compose V2,使用以下命令:docker compose up -d
  •     如果版本是 Docker Compose V1,使用以下命令:docker-compose up -d

5、这里是 V2 版本,使用 docker compose up -d 命令来启动容器

运行命令后,开始会拉取数据,然后会看到类似以下的输出,显示所有容器的状态和端口映射:

6、运行完之后,输入 命令可以看到运行的服务

命令:docker compose ps

7、docker 界面也运行正常

8、在浏览器上,输入 http://localhost/install ,这时候也会正常显示设置管理员账号界面

输入信息,配置登录账号

9、在浏览器上,输入 http://localhost/signin,这时候也会正常显示登陆界面,登陆即可

10、登录之后,在工作室创建你的应用,开始玩转 Dify 吧

附录:一些报错问题处理

一、启动容器报错 Get "https://registry-1.docker.io/v2/": net/http: request canceled

Error response from daemon: Get "https://registry-1.docker.io/v2/": net/http: request canceled while waiting for connection (Client.Timeout exceeded while awaiting headers)

分析可能原因:

1)这个是因为源的问题,我们可以使用国内的镜像源。具体操作为:找到C:\Users\Administrator.docker\daemon.json(或者C:\Users\你的用户名.docker\daemon.json)文件

(如果.docker文件下没有daemon.json文件,就自己手动新增)

2)然后添加以下内容:

{
    "registry-mirrors": [
            "https://docker.211678.top",
            "https://docker.1panel.live",
            "https://hub.rat.dev",
            "https://docker.m.daocloud.io",
            "https://do.nark.eu.org",
            "https://dockerpull.com",
            "https://dockerproxy.cn",
            "https://docker.awsl9527.cn"
      ]
}

3)保存后重启docker,重启操作为在打开docker Desktop的前提下,点击电脑右小角的小图标,点击“Restart ”,版本不同可能显示不同。

二、docker compose up -d 的时候,docker-db-1 总是重启 Restarting,无法正常 Running

此时 http://localhost/install 界面也一直在转圈,网页一直加载中

docker-db-1 相关日志如下:

running bootstrap script ... 2024-10-14T04:20:59.355405500Z The files belonging to this database system will be owned by user "postgres".
2024-10-14 12:20:59 This user must also own the server process.
2024-10-14 12:20:59 
2024-10-14 12:20:59 The database cluster will be initialized with locale "en_US.utf8".
2024-10-14 12:20:59 The default database encoding has accordingly been set to "UTF8".
2024-10-14 12:20:59 The default text search configuration will be set to "english".
2024-10-14 12:20:59 
2024-10-14 12:20:59 Data page checksums are disabled.
2024-10-14 12:20:59 
2024-10-14 12:20:59 fixing permissions on existing directory /var/lib/postgresql/data/pgdata ... ok
2024-10-14 12:19:58 2024-10-14 04:19:58.620 UTC [63] FATAL:  data directory "/var/lib/postgresql/data/pgdata" has invalid permissions
2024-10-14 12:19:58 2024-10-14 04:19:58.620 UTC [63] DETAIL:  Permissions should be u=rwx (0700) or u=rwx,g=rx (0750).
2024-10-14 12:19:58 child process exited with exit code 1
2024-10-14 12:19:58 initdb: removing contents of data directory "/var/lib/postgresql/data/pgdata"
2024-10-14 12:20:59 creating subdirectories ... ok
2024-10-14 12:20:59 selecting dynamic shared memory implementation ... posix
2024-10-14 12:20:59 selecting default max_connections ... 20
2024-10-14 12:21:00 selecting default shared_buffers ... 400kB
2024-10-14 12:21:00 selecting default time zone ... UTC
2024-10-14 12:21:00 creating configuration files ... ok
2024-10-14 12:21:00 2024-10-14 04:21:00.539 UTC [63] FATAL:  data directory "/var/lib/postgresql/data/pgdata" has invalid permissions
2024-10-14 12:21:00 2024-10-14 04:21:00.539 UTC [63] DETAIL:  Permissions should be u=rwx (0700) or u=rwx,g=rx (0750).
2024-10-14 12:21:00 child process exited with exit code 1
2024-10-14 12:21:00 initdb: removing contents of data directory "/var/lib/postgresql/data/pgdata"
2024-10-14 12:21:00 running bootstrap script ...

解决方式之一如下

1、在 dify/docker 文件夹下找到 docker-compose.yaml

2、找到文件夹中的 volumes/db/data ,替换为 postgres-data,如下图

(不同版本,内容可能有些不一样)

3、最后在末尾,添加上 postgres-data

4、保存上面修改,然后在 powershell down 一下 容器

命令:docker compose down -v

5、之后,再次重新启动一下容器

命令:docker compose up

6、docker-db-1 运行正常了

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/2214918.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

界面控件Kendo UI for jQuery 2024 Q3亮点 - 支持切换编辑模式

随着最新的2024 Q3版本,Progress使用户能够使用现成的页面模板和构建块更快地构建令人惊叹的应用程序,使您的Telerik和Kendo UI开发体验更好。 Telerik和Kendo UI 2024 Q3版本将焦点放在新推出的页面模板和构建块上,每个页面模板和构建块都预…

SaaS架构:中央库存系统架构设计

大家好,我是汤师爷~ 近年来,越来越多的零售企业大力发展全渠道业务。在销售额增长上,通过线上的小程序、直播、平台渠道等方式,拓展流量变现渠道。在会员增长方面,通过多样的互动方式,全渠道触达消费者&am…

大数据-163 Apache Kylin 全量增量Cube的构建 手动触发合并 JDBC 操作 Scala

点一下关注吧!!!非常感谢!!持续更新!!! 目前已经更新到了: Hadoop(已更完)HDFS(已更完)MapReduce(已更完&am…

TensorRT-LLM七日谈 Day4

在Day2 中,我们梳理了trt-llm对于TinyLLama的调用,在Day3,我们也熟悉了一下Trt-llm常规的三步流程。 这里其实有个问题,在针对tiny-llama的部署中,其实没有显式的进行模型转换,那麽其推理接口中到底包含了什么&#x…

stack - queue - priority_queue

1.stack和queue的使用 2.底层逻辑 2.1 stack和queue都是容器适配器,是用其他容器适配形成的 stack的逻辑是后进先出的逻辑,意味着会发生尾差和尾删,其容器就可以选择是vector和list queue的逻辑是先进先出,意味着会发生头删和…

Codigger Keyboard Look应用说明

Keyboard Look是一项专为Desktop设计的功能模式,旨在通过全面启用键盘操作,减少对鼠标依赖,从而提升用户的工作效率和操作体验。尤其对于频繁使用键盘的用户,如开发者,此模式可显著加速日常操作,优化工作流…

[NewStar 2024] week2

Crypto 第2周的密码依然都是签到题 这是几次方? 疑惑! 给了个提示:hint p^e 10086 这里边不要当成乘幂,而且加法的优先级高于异或,所以phint ^ (e10086)得到p就能正常解RSA了 Since you konw something 给的c是…

HTML5实现古典音乐网站源码模板2

文章目录 1.设计来源1.1 主界面1.2 古典音乐界面1.3 著名人物界面1.4 古典乐器界面1.5 历史起源界面1.6 联系我们界面 2.效果和源码2.1 动态效果2.2 源代码 源码下载万套模板,程序开发,在线开发,在线沟通 作者:xcLeigh 文章地址&a…

PostGIS:公交站点覆盖率分析

现有公共交通规划中常以“公交站点覆盖率”来评价公共交通服务覆盖情况,该指标通常用来评估公共交通服务的普及程度和便利性。以下,我们将基于PostGIS实现公交站点覆盖率分析。 1.公交站点覆盖率 公交站点覆盖率,也称公交站点服务面积率,是公交站点服务面积占城市用地总面…

gaussdb 主备 8 数据库安全学习

1 用户及权限 1.1 默认权限机制-未开启三权分立 1.1.1 数据库系统管理员具有与对象所有者相同的权限。也就是说对象创建后,默认只有对象所有者或者系统管理员可以查询、修改和销毁对象,以及通过GRANT将对象的权限授予其他用户。 1.1.2 GaussDB支持以下的…

DS1302时钟芯片+esp8266 / spi 学习 arduino

DS1302时钟芯片esp8266 这个芯片往上能找到很多资料,这里主要记录我手里的模块, 看了下芯片资料,说是当vcc 供电小于备用时用备用电源 这里直接没有接vcc 遇到的问题 1.esp8266复位短路导致串口断开: 当只接scl sda rst 三个引脚的时候 esp8266复位会 导致短路,也有可能…

★ C++进阶篇 ★ AVL树实现

Ciallo&#xff5e;(∠・ω< )⌒☆ ~ 今天&#xff0c;我将继续和大家一起学习C进阶篇第五章----AVL树实现 ~ ❄️❄️❄️❄️❄️❄️❄️❄️❄️❄️❄️❄️❄️❄️澄岚主页&#xff1a;椎名澄嵐-CSDN博客C专栏&#xff1a;★ C进阶篇 ★_椎名澄嵐的博客-CSDN博客 ❄️…

QT工程概述

在Qt中&#xff0c;创建 "MainWindow" 与 "Widget" 项目的主要区别在于他们的用途和功能范围&#xff1a; MainWindow&#xff1a;这是一个包含完整菜单栏、工具栏和状态栏的主窗口应用程序框架。它适合于更复 杂的应用程序&#xff0c;需要这些额外的用户…

Java | Leetcode Java题解之第479题最大回文数乘积

题目&#xff1a; 题解&#xff1a; class Solution {public int largestPalindrome(int n) {if (n 1) {return 9;}int upper (int) Math.pow(10, n) - 1;int ans 0;for (int left upper; ans 0; --left) { // 枚举回文数的左半部分long p left;for (int x left; x >…

uni-app关闭底部系统导航栏的控制按钮BUG

描述 plus.navigator.hideSystemNavigation(); 在uni-app中使用 plus.navigator.hideSystemNavigation(); 关闭导航栏时会出bug会留下一个黑框。这个bug基于手机&#xff1b; 平板的性能来决定出bug频率原因是&#xff1a;过早启用霸屏导致的&#xff08;过早使用plus.navig…

执行vue create XXX报错The operation was rejected by your operating system

创建项目&#xff1a; vue create my-project 报错&#xff1a; npm ERR! code EPERM npm ERR! syscall open npm ERR! path D:\Program Files\nodejs\node_cache\_cacache\tmp\5d2a6f8e npm ERR! errno -4048 npm ERR! Error: EPERM: operation not permitted, open D:\Pro…

18933 括号匹配问题

### 思路 1. **输入处理**&#xff1a;读取输入的字符串。 2. **匹配括号**&#xff1a;使用栈来匹配括号&#xff0c;记录无法匹配的左括号和右括号的位置。 3. **标注输出**&#xff1a;根据记录的位置&#xff0c;生成标注字符串&#xff0c;输出原始字符串和标注字符串。 …

车辆损伤评估数据集(提供分割和检测两种标注方式)6类4000张高分辨率图共9000余标注,6GB数据量

车辆损伤评估数据集&#xff08;提供分割和检测两种标注方式&#xff09; 标注类型包括 dent: 凹痕 scratch: 划痕 crack: 裂缝 glass shatter: 玻璃破碎 tire flat: 轮胎扁平 lamp broken: 车灯损坏 4000张高分辨率图共9000余标注&#xff0c;6GB数据量 车辆损伤评估数据集介…

复合泊松过程

复合泊松过程的均值、方差与特征函数 复合泊松过程的定义 复合泊松过程 ( Y(t) ) 是一种常见的随机过程&#xff0c;通常定义为&#xff1a; Y ( t ) ∑ k 1 N ( t ) X k Y(t) \sum_{k1}^{N(t)} X_k Y(t)k1∑N(t)​Xk​ 其中&#xff1a; ( N(t) ) 是一个强度为 ( \lambd…

IP地址与CDN提升网络速度

视频流媒体、在线游戏、或是电商购物&#xff0c;互联网在我们的工作生活中愈加不可或缺&#xff0c;人们对于网络的加载速度要求也越来越严苛。而IP地址与CDN的协同工作&#xff0c;对于互联网速度增加与稳定起这重大的作用。 一、CDN的工作原理 CDN是由分布在全球各地的服务…