按照官方介绍,打开教程安装。
下载源码,
# 假设当前最新版本为 0.15.3
git clone https://github.com/langgenius/dify.git --branch 0.15.3
进入docker目录,
cd dify/docker
网络科学的直接执行命令就可以了。
docker compose up -d
镜像网的同学打开yml配置,查看所需服务,参考往期,加速下载镜像,导出导入到离线环境就可以执行命令运行了。
根据自己设备性能,等到都运行起来,大概十几分钟吧,进入网址。初次登录自己随便设置账号密码,dify也有联网在线服务版,注册需要邮箱。这些是联网能调用的工具,dify是一个工作流画布,类似comfyui,自己定义节点工作流,联网节点和模型API key留到下期。
离线部署,模型供应商选到xinference,名字随便取,I D选择xinference模型名,服务器地址选wsl地址下的xinference地址,localhost不认的。
创建知识库,支持的文件类型很多,这里需要一个向量模型来检索,没有也行,效果差点,
先把文档丢上去,全自动下一步。开始构建索引。
看一下向量模型,huggingface镜像站HF-mirror,对应的模型下载就行了,跟下载deepseek一样,可以参考往期内容。
本地知识库索引完成,创建一个对话应用,模板很多,类似agent智能体,但是可以自己制作,下期再说。
创建一个对话模板,
上下文引用选择新建的知识库,
模型选自己的模型。
功能里,开场介绍示例问题自己设置,引用功能打开,显示搜的哪个文件。
开始就文本内容提问,回答中显示引用的文档,看过这本书的可以来说说,这个回答是不是挺好的。