FastGPT+ollama 搭建私有AI大模型智能体工作流-Mac

news2024/9/20 15:00:25


一、大模型+工作流的优势


1. 降低任务门槛:工作流可以将复杂任务分解成多个小任务,降低每个任务的复杂度,从而减少对提示词和大模型推理能力的依赖。这样可以提升大模型处理复杂任务的性能和容错能力。

2. 提升任务效率:工作流可以实现自动化处理,减少重复劳动和纠正。只需提供必要元素,工作流就可以直接输出结果,提高效率和稳定性。

3. 提高任务的一致性:工作流可以确保任务的执行是一致的,减少人为错误和偏差,提高任务的可靠性和质量。

4. 实现任务的可重复性:工作流可以实现任务的可重复性,减少重复劳动和开发时间,提高开发效率和生产力。

二 安装ollama

1、安装ollama

下载ollama官方mac安装程序,下载后直接双击应用程序安装。

地址:Ollama

 下载需要的大模型

三、安装部署FastGPT

Docker Compose 快速部署 | FastGPT

3.1 使用Docker环境部署(请提前安装好docker)

在 Mac 上安装 Docker Desktop | Docker 文档

3.2 部署fastgpt

3.3 启动并配置oneapi模型:

访问本地部署好的oneapi:http://localhost:3001/channel

初始化的    用户名:root   密码:123456

3.4  配置Fastgpt

1、配置fastgpt的模型

进入最开始的fastgpt文件夹。找到config.json,配置llama3模型,位置和代码如下:

完成配置后需要重新启动dockerdesktop里面的oneapi和fastgpt。

2、访问fastgpt

地址:http://localhost:3000/login,默认用户名:root  密码:1234

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/2059218.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

在选择或推荐数据恢复软件之前,您如何测试和审查它?

数据恢复软件可以帮助您从各种存储设备中检索丢失或删除的文件,例如硬盘驱动器,USB闪存驱动器,存储卡或智能手机。但是,并非所有数据恢复软件都是一样的,根据您的情况和需求,有些软件的性能可能比其他软件更…

多商户入驻商城系统源码+收银系统源码

随着移动互联网的不断发展,私域小程序对于零售门店来说早已不再陌生。很多门店也都搭建了自己专属的私域商城,但是私域商城一直是不温不火的状态,尤其针对一些腰尾部商户来说,无小程序运营能力,小程序流量匮乏&#xf…

C#实现多选下拉框

1、创建多选下拉框控件 using System; using System.Collections.Generic; using System.Drawing; using System.Linq; using System.Text; using System.Threading.Tasks; using System.Windows.Forms;namespace DFT_FFTApp.userCtrl {/// <summary>/// 多选下拉控件//…

centos 虚拟机器刚刚安装没有ip地址的问题

刚刚安装好的虚拟机器&#xff0c;我们通过 ip addr 查看ip发现是这样的 该虚拟机器没有ip地址&#xff0c;那么怎么办 原来是在/etc/sysconfig/network-scripts/ifcfg-ens33中关于网络的配置有问题 ONBOOTno 表示不开启网卡&#xff0c;我们需要将这个值进行修改为yes 当前…

上位机图像处理和嵌入式模块部署(linux程序加解密)

【 声明&#xff1a;版权所有&#xff0c;欢迎转载&#xff0c;请勿用于商业用途。 联系信箱&#xff1a;feixiaoxing 163.com】 我们平时在开发程序的时候&#xff0c;如果仅仅是自己使用&#xff0c;那么代码和使用场景都是自己控制的&#xff0c;一般来说问题不大。但是程序…

开放式耳机好还是入耳式耳机好?2024五款热销开放式耳机推荐!

开放式耳机与入耳式耳机各有优缺点&#xff0c;适合不同的使用场景和用户需求。 开放式耳机的优点主要包括&#xff1a; 1. 佩戴舒适性好&#xff0c;由于设计宽松&#xff0c;不会给耳朵带来压迫感&#xff0c;适合长时间使用 。 2. 透气性能好&#xff0c;尤其在夏天或运动…

C盘爆满为什么都要——关闭休眠功能?关了会有什么影响?

C盘爆满为什么都要——关闭休眠功能&#xff1f;关了会有什么影响&#xff1f; 很多C盘爆满的用户中&#xff0c;都会有一个名字是hiberfil.sys的文件&#xff0c;当启用休眠功能时&#xff0c;系统状态&#xff08;包括打开的应用程序和文件&#xff09;会保存到硬盘上的hibe…

第二证券:美股小幅收跌,纳指与标普止步八连涨

当地时间8月20日&#xff0c;美股三大指数小幅收跌。截至收盘&#xff0c;道指跌61.56点&#xff0c;跌幅为0.15%&#xff0c;报40834.97点&#xff1b;纳指跌59.83点&#xff0c;跌幅为0.33%&#xff0c;报17816.94点&#xff1b;标普500指数跌11.13点&#xff0c;跌幅为0.20%…

【18】中级提升1

题目一 策略&#xff1a; 每次将绳子右端点放在一个点上&#xff0c;看绳子往左可以覆盖多少个点。 如何知道左边覆盖几个点&#xff1f; 在绳子右端点cur左边有序区域找第一个大于等于arr[cur]-L的位置 滑动窗口 每次绳子左侧放在一个点上&#xff0c;然后有边界向右走&…

用 ChatGPT 写文章、论文,你有哪些绝活?

最强 AI视频生成&#xff1a;小说文案智能分镜智能识别角色和场景批量Ai绘图自动配音添加音乐一键合成视频百万播放量https://aitools.jurilu.com/绝活不敢说&#xff0c;但是&#xff0c;学会了这个&#xff0c;以前一周写万字&#xff0c;现在两个小时就能搞定&#xff0c;写…

Codeforces EPIC August 2024(Div.1+Div.2) A~E

A. Distanced Coloring &#xff08;思维&#xff09; 题意&#xff1a; 给出一个 n m n\times m nm 网格和一个正整数 k k k。 现在要用用一些颜色为网格着色&#xff0c;并满足以下条件&#xff1a; 如果 ( x 1 , y 1 ) (x_1,y_1) (x1​,y1​) 、 ( x 2 , y 2 ) (x_2…

测试环境频繁报:RedisCommandInterruptedException: Command interrupted

比较奇葩的是&#xff1a;本机&#xff0c;开发&#xff0c;生产都没问题&#xff0c;就测试环境有这问题&#xff0c;导致docker容器不停重启&#xff0c;就是起不来。 本机中断程序&#xff0c;同样也会报这个问题 排查了半天&#xff0c;找到原因&#xff0c;应该是redis在…

技术分享-商城篇-支付回调(十四)

概述 在前面我们说到B2C商城中的订单支付模块&#xff0c;也有聊到支付回调&#xff0c;先来了解一下&#xff0c;为什么我们不能在支付完成当前通知同步去更新支付状态&#xff0c;这样不是更加快捷实时吗&#xff1f;为什么一定要走异步回调通知&#xff1f;带着这些问题&am…

深度学习基础—Batch Norm

对于一个神经网络我们知道&#xff0c;归一化输入特征是加速网络训练的技巧之一&#xff0c;因为归一化后&#xff0c;损失函数的图像就会由狭长变得更圆&#xff0c;那么这是否启发我们&#xff0c;在深度更深模型中&#xff0c;对各层的输出进行归一化&#xff0c;有益于下一…

PythonStudio 控件使用常用方式(三十一)TUpDown

PythonStudio是一个极强的开发Python的IDE工具&#xff0c;官网地址是&#xff1a;https://glsite.com/ &#xff0c;在官网可以下载最新版的PythonStudio&#xff0c;同时&#xff0c;在使用PythonStudio时&#xff0c;它也能及时为用户升到最新版本。它使用的是Delphi的控件&…

从零到一:Spring Boot 与 RocketMQ 的完美集成指南

1.Rocket的概念与原理 RocketMQ 是一款由阿里巴巴开源的分布式消息中间件&#xff0c;最初用于支持阿里巴巴的海量业务。它基于发布-订阅模型&#xff0c;具备高吞吐、低延迟、高可用和强一致性的特点&#xff0c;适用于消息队列、大规模数据流处理等场景。以下是对 RocketMQ …

docker连接宿主机redis,提示Connection refused

目录 一、测试环境 二、问题现象 三、问题总结 一、测试环境 centos 7 redis-5.0.14 docker-26.0.1 二、问题现象 服务器重启后docker连接宿主机redis&#xff0c;提示Connection refused Reconnecting, last destination was /172.25.xxx.x:6379 …

4种回收站数据恢复方法,让数据快速恢复!

回收站里的重要数据怎么突然就消失得无影无踪了&#xff1f;别慌&#xff01;别慌&#xff01;在这里&#xff0c;为您精心准备了4种回收站数据恢复方法&#xff0c;这五种回收站数据恢复方法都是经过实际测试的&#xff0c;完全可以帮我们找回那些被删除的数据&#xff01; 回…

高杰:远程工作8年,平衡了工作与生活,但仍然对收入感到焦虑

这是《开发者说》的第14期&#xff0c;本期我们邀请的开发者是高杰&#xff0c;毕业于上海交大&#xff0c;因拆迁搬家到了郊区&#xff0c;忍受不了长时间的通勤&#xff0c;开始走上远程工作的道路&#xff0c;至今从事远程开发8年有余&#xff0c;他应该是国内最早从事远程工…

C语言提高(2)

calloc void *calloc(size_t namber&#xff0c;size_t size); 功能&#xff1a;在内存动态存储区中分配namber块长度为size字节的连续区域。calloc自动将分配的内存置0 namber&#xff1a;所需内存单元数量 size&#xff1a;每个内存单元的大小&#xff08;单位&#xff1a;字…