极速了解GPT生态

news2024/11/23 10:44:00

第一部分:

1、chatGPT:一个大语言模型,可以通过API去访问,下面很多是根据API去访问,然后来进行集成。

2、Vector store,你也可以叫是Vector search,主要目就是存储各种向量,然后去计算向量的各种相似度。主要是为了辨别不同的自然语言的语义,他们之间的相近性什么,其实主要也是那个GPG底层的这个embing,是一个数据结构的一个存储。

3、LangChain 简单理解类似于Java领域里那个spring,或者是说 ruby 生态里边那个Rails,其实它就是一个python的一个框架,但它主要是服务于LLM这个领域,也就是大原模型这个领域,它对这些整体的这个生态进行了一个抽象,所以它是一个Python的一个大语言模型的开发框架,当然它现在也提供JS的,你会发现后面很多应用其实都是通过它来作为类似于一个胶水,或者是一个生产线,然后把所有的这种组件啊,生态里的这些东西。就是集成到一起或者粘到一起.

现在社区也提供了很多这种,local 运行方案,类似于节点跟节点之间进行连接的这种拖拽,构建这样一个local 的一个应用啊,这是两个比较常见的,大家可以参考一下

Low/no-code Langchain

  • Flowise - https:/ /github.com/FlowiseAl/Flowise

  • Langflow - https://github.com/logspace-ai/langflow

第二部分:

  1、BabyAG 来源于一篇文章《 Task-driven Autonomous Agent》,Agent就是任务驱动的自动,就是你会有不同的一些agent,然后去完成不同的任务,你只要给这些agent发一个任务,或者发目标之后他们会自己进行一些协调,以及借助于chatGPT以及存储的这些能力,然后进行任务的分解,分发,执行调度这样一些东西,BabyAgi其实就是类似于这样一套架构的一个实现,就是它是一个Python的那个脚本,它其实其实就是一个程序。

按那程序的结构如下,这个结构比较经典,新的gpt的一些应用,其实都是类似的结构。

2、HuggingGPT是那个微软然后发布的,它的结构如下,你通过它去发指令给这LLM,其实就是给chatGPT发一个类似于自然语言一个指令,然后这些自然语言那个chatGPT就会进行分解,然后去HugginGPT那边去找相应的这种合适的model,然后去执行model,然后各种返回的响应,其实跟  Baby AGI那个架构是类似的,本质上来讲就是通过chatGPT作为一个接口,然后进行任务的解析,分发这样一些任务,所以你会发现其实chatGPT在整个的这些架构里面都是。

包括这里面,其实你它更详细的就是说明了,说这个Huggin face、hugging GPT 的结构,主要是分四步,第一步什么就是任务的规划,然后再进行模型的选择,然后之后呢,就是执行任务,然后最后再把结果返回给这个chatGPT去生成啊相应的这个响应对吧,所以嗯,架构的这个流程上是很简单,但其实你会发现跟BabyAgi那整个的那个这个这架构愿景其实很相像。

 

 

 

3、Jarvis 说白了它是属于HuggingGPT的一个实现啊,你可以这样这样来理解,就是HuggingGPT是一个paper,就是一个论文,最终的工程实现其实是由Jarvis来实现的。

4、AutoGPT 的结构跟前面的HuggingGPT以及BabyAGI其实类似的,都是做的一个事情,本质上来讲,他们都是在做任务的这种分发,基于任务的这样一些agent,样一些东西,所以结构上我就不分析了,其实都类似。

5、AgentGPT 重点介绍一下这个东西,agentgpt属于AutoGPT的一个web应用,所以你可以直接在web上去用那个AutoGPT,否则的话你就要去自己去安装那个AutoGPT,然后去用Python去run,然后去又要去怎么去配置这个,Python的API又要去。配置这个chatGPT的这个open API的key对吧,所以那个那个东西就是比较脚本化,面向开发人员的这样一个一个界面,反而是说啊Agentgpt呢,就直接是一个web页面,然后你就普通用户,普通小白用户,没有什么经验的用户就可以直接用,所以这个产品就相当于是Autogpt一个升级版。

在前面三种三类产品,其实它属于不同出处嘛,对吧,但其实啊,理念都是类似的,都是基于task drive的这样一些agent的。

generative agents

斯坦福大学出了一个论文,就是让这几十个这种agent的,就是这机器人这样一个东西,放在一个模拟环境里面去跑,然后他们自己会形成一个这种各种社交啦,谈话的这样一些东西,然后就形成一个自主的一个生态,然后这个这里面每一个agent其实就是就是类似于叫真的那个agent,为什么呢?就是它可以自发的做出一些。

决策响应这样一些东西,电影西部世界里边那样,就是每一个机器人,它其实相当于有了一些自主的一个意识,所以啊,这就是相当于在原来的AutoGPT,或者是啊babyAGI这样一些一些理念跟加构的基础上形成了一个生态,所以这是比较有意思的一个点,为什么如果真的照这个发展下去,是不是就是将来机器人或者什么人工智能会形成他自己的一个生态。所以这个是比较值得关注的一个一个东西,但将来会怎么演化。

你发现不同的agent,就相当于是在自主的给做出行为,然后碰到不同的人有不同的这种响应。

GPT4All(gpt for All Not gpt4 all)

就是本地安装了一套单元模型的一套方案。

 chatGLM 这个这个模型就是清华大学出的这套模。

Deepspeed (LMM)这是微软出的一个内库,就是深度学习一个内库,然后很多方案都构建,看它上面,然后在它上面构建了一个东西叫deep speed chat是两个东西,所以要把它放在一起来进行澄清,然后deep speed chat就是一套方案,说白了它就是它模仿chatgpt的那套东西,其实完成了这种架构啦,完成的这种目的啊,都是类似的,就是他能让你去自己训练一套类似于chatGPT这样一套产品的一个架构体系,那也是分三步走,第一步就是监督式的进行学习,然后之后再加上reward的reward model,就是讲义式的这样一些一些模型训练,然后最终再通过这种,人工的这种干预就是专业术语提要,Reinforcement learning啊,With human feedback。

最后介绍一个东西,就是就是刚出来就是web LLM啊,它最主要的一个特点是可以让你在浏览器里面去跑大语言模型。

它的架构是这样的,就是可能很复杂,但是简单来讲就是这样,就是它是通过在开发期间去构建一个大语言模型,然后再运行的时候,通过浏览器配合WSM这个技术,就是去实现模型的这个加载,然后直接再在模型里面去跑啊,在浏览器里面去跑,因为浏览器现在,CHROME113那个版本已经支持了那个web GPU对吧,所以它也可以让这些大的模型,然后在这个浏览器里面去去使用到本机的这个GPU的这个资源,所以这套方案是现在是可行的,但是最主要是说现在还是处于better阶段,就是因为为什么,就是你在加载的时候,它还是会下载机随机的模型到本地去进行缓存,所以其实来对于这个本地的机器性能不是太好的这种用户来讲,其实也没有那么友好,但是它其实已经出现了像web2.0时代这种BS架构这样一个特点,所以让我们拭目以待吧。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/649430.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

【Linux】基础IO——文件描述符:缓冲区的理解

上个月学校考试,进行课程复习,一直没有更新博客,现考试结束,继续保持更新,欢迎大家关注! 目录 1 模仿C库自主封装简单的文件接口2 对缓冲区的理解2.1 数据刷新到磁盘的过程分析2.2 如何强制刷新内核 1 模仿…

00后是真的卷不过,工作没两年,跳槽到我们公司起薪17K都快接近我了

在程序员职场上,什么样的人最让人反感呢? 是技术不好的人吗?并不是。技术不好的同事,我们可以帮他。 是技术太强的人吗?也不是。技术很强的同事,可遇不可求,向他学习还来不及呢。 真正让人反感的,是技术平平&…

go+vue自建运维管理平台

文章目录 鲁班运维平台容器管理集群管理namespace管理节点管理工作负载存储管理网络管理配置管理事件中心 kuboard 鲁班运维平台 这个平台和spug很像,感觉就像是spug运维平台的容器版本。 但是如果是容器平台则选择的余地很大,优秀的如kubersphere、kub…

NeRF+SLAM论文阅读笔记

CVPR 2023 Co-SLAM: Joint Coordinate and Sparse Parametric Encodings for Neural Real-Time SLAM input: RGB-D contribution: 1.场景表示:多分辨率哈希网格(加速&保留高频特征) 2.编码方式:one-b…

STM32 实现简单定时任务调度器,动态创建任务,两种思路实现流水灯

代码实现和硬件没关系,所以并不限于STM32,Arduino 之类的其他地方也能用,只要有一个能获取时间的函数就行,或者说,只要有一个会随着时间自动增加的变量就行,时间单位无所谓,所以确实想的话&…

排它锁和共享锁.md

介绍 排它锁(Exclusive),又称为X 锁,写锁。 共享锁(Shared),又称为S 锁,读锁。 X和S锁之间有以下的关系: SS可以兼容的,XS、SX、XX之间是互斥的 显式加锁…

Django-带参数的路由编写(一)【不用正则表达式匹配的简单带参数路由】

在某urls.py文件有如下的路由配置语句&#xff1a; urlpatterns [path(app2/show/<int:id>/,views.show_id), ]语句&#xff1a; path(app2/show/<int:id>/,views.show_id),中的<int:id>就是带参数的URL中的参数部分&#xff0c;其语法格式如下&#xff1a…

PPT中如何做出透视圆的效果?

看两个例子 一个是上部这种垂直的圆环。 一个是下部这种圆。 它们都据有一定的透视感,上部用于表示流量,下部用于表示出“某一领域”的意镜。 向下延展的圆环透视效果 先说这个扁平的圆的例子,它有4个圆,画的技巧如下: 就是4个圆环;把4个圆环互相叠加;把上和下在“中…

2023年网络安全保姆级入门学习路线,建议收藏!

作为一个工作多年的网络安全渗透工程师&#xff0c;我知道对于零基础小白来说&#xff0c;网络安全可能是一个非常陌生而且有些恐怖的领域。但是不用担心&#xff0c;只要你愿意花费时间和精力去学习&#xff0c;你也能成为一个优秀的网络安全专家。 网络安全学习路线 首先&a…

顺序队列和链队列

队列也是一种线性结构&#xff0c;不同于栈的是队列为先进先出的数据结构&#xff0c;遵循一边入队一边出队。 顺序队列的底层使用的是数组&#xff0c;因此需预先申请一块足够大的内存空间初始化顺序队列。除此之外&#xff0c;为了满足顺序队列中数据从队尾进&#xff0c;队头…

接口测试和功能测试的区别

目录 前言&#xff1a; 一、测试目的不同 二、测试内容不同 三、测试重点不同 四、总结 前言&#xff1a; 接口测试和功能测试是软件测试中的两种不同类型。接口测试侧重于测试不同模块之间的接口&#xff0c;而功能测试则注重测试完整的业务功能。 一、测试目的不同 接…

Vue中如何进行文件打印与PDF导出

Vue中如何进行文件打印与PDF导出 在Vue应用中&#xff0c;有时候需要将页面内容打印出来或者导出为PDF格式&#xff0c;以满足用户的需求。本文将介绍如何在Vue应用中实现文件打印和PDF导出的功能。 文件打印 文件打印是指将页面内容输出到打印机上&#xff0c;将其打印成纸质…

Vue中如何进行地图热点展示与交互(如热力图)

Vue中如何进行地图热点展示与交互&#xff08;如热力图&#xff09; 随着大数据和可视化技术的发展&#xff0c;地图热点展示越来越受到人们的关注。在Vue应用中&#xff0c;我们通常需要实现地图热点的展示和交互&#xff0c;以便更好地呈现数据和分析结果。本文将介绍在Vue中…

MySQL的高级操作(每一次「欢喜」都值得纪念)

文章目录 一、案例扩展二、克隆表1、方法一2、方法二 三、清空表四、创建临时表七、补充七、补充 一、案例扩展 use kgc; create table if not exists info ( id int(4) zerofill primary key auto_increment, #指定主键的第二种方式 name varchar(10) not null default 匿…

eclipse中java代码在控制台输出的中文内容是乱码怎么解决

eclipse中创建了一个maven工程&#xff0c;用System.out在控制台输出内容&#xff0c;但中文内容显示乱码&#xff1a; 解决方法&#xff1a; 右键单击工程&#xff0c;选择Run As->Run Configurations: 点击Common这个tab页&#xff0c;Encoding选择Use system encoding&…

分布式定时任务框架 PowerJob

业务背景 1.1 为什么需要使用定时任务调度 &#xff08;1&#xff09;时间驱动处理场景&#xff1a;整点发送优惠券&#xff0c;每天更新收益&#xff0c;每天刷新标签数据和人群数据。 &#xff08;2&#xff09;批量处理数据&#xff1a;按月批量统计报表数据&#xff0c;批…

vue练习

附加练习-1.帅哥美女走一走 目标: 点击按钮, 改变3个li的顺序, 在头上的就到末尾. 提示: 操作数组里的顺序, v-for就会重新渲染li 代码演示 <template><div><ul><li v-for"item in myArr" :key"item">{{ item }}</li></…

GCC命令与参数详解

GCC 命令与参数详解 无论是 C 还是 C 程序&#xff0c;将其从源代码转变为可执行代码的过程&#xff0c;具体可分为预处理 Preprocessing&#xff0c;编译 Compilation&#xff0c;汇编 Assembly&#xff0c;链接 Linking 这四个阶段。 默认情况下 GCC 指令会直接将源代码历经…

websocket实时通信【纯后端——JAVA】

本文主要介绍一下websoket的实时通信&#xff0c;这里只有java的代码&#xff0c;通过在线网站 http://www.websocket-test.com/测试即可 1. 导包 <dependency><groupId>org.springframework.boot</groupId><artifactId>spring-boot-starter-websocke…

亚马逊云科技re:Inforce 2023全球大会,让安全成为业务发展驱动力

S&P《企业之声&#xff1a;2022年信息安全、预算和展望》研究报告指出&#xff0c;有37%的受访者表示云基础设施安全是他们的主要安全支出&#xff0c;65%的受访者表示将计划采用云供应商的高级安全服务。安全是亚马逊云科技的重中之重&#xff0c;re:Inforce全球大会则深化…