ReAct 大模型提示框架

news2024/12/23 9:03:18

你可能不熟悉 ReAct，这是一个旨在增强语言模型 (LLM) 决策能力的尖端框架。

通过使用新的观察结果更新 LLM 的上下文窗口并提示其重新评估信息，ReAct 促进了类似于人类思维过程的推理水平，超越了诸如思维链提示之类的旧技术。

在本文中，我们对 ReAct 进行了定性评估，并使用 Langchain 的代理模块对其进行了测试，以初始化零样本代理来解决信息检索问题。

ReAct in action

以上是论文《ReAct：语言模型中的协同推理和行动》中的一个例子。

NSDT工具推荐： Three.js AI纹理开发包 - YOLO合成数据生成器 - GLTF/GLB在线编辑 - 3D模型格式在线转换 - 可编程3D场景编辑器 - REVIT导出3D模型插件 - 3D模型语义搜索引擎 - Three.js虚拟轴心开发包 - 3D模型在线减面 - STL模型在线切割

1、什么是 ReAct？

ReAct 模式是Reasoning and Acting（推理和行动）的缩写，是一个将AI模型中的推理过程与行动过程分开的框架。

ReAct 模式的核心是将观察结果提供给 LLM，使其能够更新其上下文窗口。该模型重新评估信息并根据这些见解采取行动以提高其推理能力。这个过程与思维链 (CoT) 提示等技术形成鲜明对比，其中推理步骤嵌入在单个提示中。

ReAct 框架通过提供处理复杂查询的结构化方法来提高 LLM 响应的质量和连贯性。LLM 可以独立分析信息并生成准确反映所提供信息的响应，而不是一次性处理查询。这种方法可以产生更明智和精确的输出。

Mario Fontana

2、AI 响应链

ReAct 和类似技术的一个关键特性是 AI 响应链（response chaining），而不是依赖于单个 AI 响应。

AI 响应链通过在提示中嵌入顺序步骤来增强 AI 推理，利用神经网络系统来提高组合创造力，从而实现细致入微和创新的响应。

Perplexity AI 是一个值得注意的实现，它根据替代查询聚合搜索结果以最大限度地提高相关性和广度，从而模拟全面的类人搜索过程并有意义地整合各种输入。我们在上一篇关于谷歌 AI 搜索引擎故障的文章中讨论了类似的主题，并将其微不足道的实现与 Perplexity AI 进行了比较。

Where is Google’s AI Search Engine?

开发人员的共同目标是找到一种方法，让 LLM 表现得更智能，减少幻觉，并通过连锁反应，我们可以刺激批判性思维系统。那是什么样子的呢？

3、一个例子

导入库和 API 密钥设置：

!pip install --upgrade openai
!pip install --upgrade langchain
!pip install --upgrade python-dotenv
!pip install google-search-results
 
# import libraries
import openai
import os
from langchain.llms import OpenAI
from langchain.agents import load_tools
from langchain.agents import initialize_agent
from dotenv import load_dotenv
load_dotenv()
 
# load API keys; you will need to obtain these if you haven't yet
os.environ["OPENAI_API_KEY"] = os.getenv("OPENAI_API_KEY")
os.environ["SERPER_API_KEY"] = os.getenv("SERPER_API_KEY")
配置 AI 和 LLM

此示例在实施 ReAct 框架时使用零样本提示（无示例）。这意味着观察和想法仅基于指令，几乎没有或根本没有推理或相关示例来指导 AI。

你可以配置自己的模型，该模型采用少量样本和一些示例来鼓励 AI 以稍微更适合你的任务的方式思考。

llm = OpenAI(model_name="text-davinci-003" ,temperature=0)
tools = load_tools(["google-serper", "llm-math"], llm=llm)
agent = initialize_agent(tools, llm, agent="zero-shot-react-description", verbose=True)
运行链

执行后，你会注意到代理如何动态搜索和收集信息以提供连贯而详细的响应。

agent.run("What is Asycd and what do they do in the space of AI?")

输出：

Entering new AgentExecutor chain...

Thought: I need to find out what Asycd is and what they do in the space of AI.

Action: Search

Action Input: "What is Asycd and what do they do in AI?"

Observation: Asycd is a company focused on using AI to revolutionize art creation and user interaction.
They leverage AI technologies to provide innovative tools that enhance the creative process
and offer personalized user experiences.

Thought: I need more details about Asycd's specific activities and platforms related to AI.

Action: Search

Action Input: "Asycd AI innovations and platforms"

Observation: Asycd offers several AI-driven solutions including:

An AI-based platform for generating unique art pieces.
Tools for artists to collaborate with AI to expand their creative boundaries.
User-centric AI applications that personalize and enhance user interactions with art and other creative content.
Thought: I now have a comprehensive understanding of Asycd's role in the AI space."

Final Answer: Asycd is a company dedicated to transforming art creation through artificial intelligence. They offer a variety of AI-driven solutions such as an AI-based platform for generating unique artwork, collaborative tools for artists to push creative limits with AI, and user-centric applications that tailor and enrich user interactions with creative content.

> Finished chain.

你可以逐步看到 AI 采取的流程操作：首先在 Google 上搜索用户提出的查询，看看是否可以通过直接搜索 Google 找到答案。

代理评估搜索结果，并有另一个想法，可能类似于“这些结果没有回答用户的查询，但它是一个有用的起点”。它可能会从搜索结果中挑选关键字，并在下一次搜索中使用这些关键字，这将是它的下一步操作。

最终，AI 找到有关 Asycd 的 AI 活动的正确信息，并利用这些信息制定对初始查询的最终响应。

4、替代方案

有几种替代提示框架旨在协调人类和人工智能的决策，类似于 ReAct：

  • 思维链 (CoT) 提示：此框架鼓励 LLM 生成逐步推理轨迹或“思维链”以得出最终答案。它有助于使模型的推理过程更加透明和可解释，使其与类似人类的推理保持一致。
  • 自一致性提示：这种方法提示 LLM 生成多个可能的解决方案，然后交叉检查它们的一致性，模仿人类如何复查其工作。它可以提高 LLM 输出的可靠性和连贯性。
  • 递归奖励建模 (RRM)：RRM 训练 LLM 以递归方式建模任务的奖励函数，使模型能够以更符合人类的方式推理任务的目标和约束。
  • 辩论：该框架促使 LLM 就给定主题产生多种观点或论点，类似于人类辩论。它可以帮助提出不同的观点和考虑，促进更全面的决策。
  • 迭代放大 (IA)：IA 涉及通过让 LLM 批评和改进自己的响应来迭代地完善其输出，类似于人类通过自我反思和迭代来完善思维的方式。
  • 合作 AI：这种方法涉及促使多个 LLM 协作和共享知识，模仿人类经常合作解决复杂问题的方式。

所有这些技术本质上都是代理性的，仅在提示配置以及 AI 响应的结构上有所不同。

5、结束语

研究 ReAct 非常有价值，它使我们能够探索各种创新方法来提高聊天机器人和人工智能工具的有效性。我们希望你发现这里分享的见解既有信息量又有启发性！

原文链接：ReAct提示框架 - BimAnt

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.coloradmin.cn/o/1931797.html

如若内容造成侵权/违法违规/事实不符，请联系多彩编程网进行投诉反馈，一经查实，立即删除！

相关文章

RocketMQ~架构与工作流程了解

RocketMQ~架构与工作流程了解

简介 RocketMQ 具有高性能、高可靠、高实时、分布式 的特点。它是一个采用 Java 语言开发的分布式的消息系统，由阿里巴巴团队开发，在 2016 年底贡献给 Apache，成为了 Apache 的一个顶级项目。 在阿里内部，RocketMQ 很好地服务了集…
阅读更多...
C++笔试强训4

C++笔试强训4

文章目录 一、选择题1-5题6-10题 二、编程题题目一题目二 一、选择题 1-5题 %o就是输出八进制的无符号数，0123，，以0开头，本来就是八进制，所以输出为123，123是十进制，转化为八进制就是173. 故选…
阅读更多...
Python实现基于http通信的protobuf数据传输的案例，包括请求者和接收者

Python实现基于http通信的protobuf数据传输的案例，包括请求者和接收者

个人名片 🎓作者简介：java领域优质创作者 🌐个人主页：码农阿豪 📞工作室：新空间代码工作室（提供各种软件服务） 💌个人邮箱：[2435024119qq.com] &#x1f4f1…
阅读更多...
tensorflow1基础函数学习

tensorflow1基础函数学习

学习准备： 所需的库： tensorflow 1.12.0 numpy 1.19.5基本初始化函数 1.1 理解张量 tensor： 多维数组（列表）， 阶：张量的维数 维数名字栗子0标量s 1, 2, 31向量v [1, 2, 3]2矩阵m [[1, …
阅读更多...
uniapp 微信默认地图选点功能实现

uniapp 微信默认地图选点功能实现

效果图 配置项 微信公众平台-小程序配置 uniapp配置 上代码 <template><view class"content"><button click"toMap">请选择位置</button></view> </template><script setup lang"ts">function toMa…
阅读更多...
Qt Style Sheets-使用样式表自定义 Qt 部件

Qt Style Sheets-使用样式表自定义 Qt 部件

使用样式表自定义 Qt 部件 在使用样式表时&#xff0c;每个小部件都被视为具有四个同心矩形的框&#xff1a;边距矩形、边框矩形、填充矩形和内容矩形。框模型对此进行了更详细的描述。 盒模型 以下是四个同心矩形在概念上的呈现方式&#xff1a; 边距超出边框。边框绘制在边…
阅读更多...
【源码剖析】ThreadLocal 源码剖析

【源码剖析】ThreadLocal 源码剖析

源码类注释 /*** This class provides thread-local variables. These variables differ from* their normal counterparts in that each thread that accesses one (via its* {code get} or {code set} method) has its own, independently initialized* copy of the variab…
阅读更多...
鼠标录制工具怎么挑选？9款电脑鼠标录制工具分享（2024）

鼠标录制工具怎么挑选？9款电脑鼠标录制工具分享（2024）

你知道鼠标录制工具吗&#xff1f;鼠标录制工具通过记录和回放用户的操作&#xff0c;帮助自动化重复性任务&#xff0c;提高工作效率和精确性。它可以帮助用户简化很多繁琐的操作步骤&#xff0c;非常适合运用在电脑自动化任务、游戏自动化中&#xff0c;给大家整理了2024年9款…
阅读更多...
使用assembly插件来将外部文件夹打进jar包

使用assembly插件来将外部文件夹打进jar包

目录&#xff1a; 1、pom文件的配置2、新建assembly的描述文件3、maven打包 1、pom文件的配置 <!--maven构建--><build><plugins><plugin><groupId>org.springframework.boot</groupId><artifactId>spring-boot-maven-plugin</ar…
阅读更多...
代理模式（静态代理，动态代理，cglib代理）

代理模式（静态代理，动态代理，cglib代理）

文章目录 代理模式代理模式的角色静态代理案例代码抽象父类接口目标对象代理对象客户端使用输出结果 动态代理案例代码抽象父类与实现类代理工厂客户端 cglib代理引入依赖目标对象代理工厂客户端 代理模式 代理模式属于结构型的模式&#xff0c;通过代理对象来访问目标对象&am…
阅读更多...
malloc底层实现

malloc底层实现

xv6实现的动态内存分配虽然只有不到100行代码&#xff0c;但却体现了动态内存分配的精髓&#xff0c;非常值得学习 xv6的内存布局 一谈到C语言的动态内存分配&#xff0c;就会想到堆以及malloc()和free()这两个函数。先来回顾一下XV6中的内存布局是怎样的&#xff0c;我们动态…
阅读更多...
FPGA实训报告DAY 1(Verilog HDL)

FPGA实训报告DAY 1(Verilog HDL)

实习日志与总结 日期&#xff1a;2024 年 7 月 10 日 星期三 姓名&#xff1a;XXX 一、实习日志 上午 9:00 - 9:30 按时到达工位&#xff0c;参加部门早会&#xff0c;了解了今天的实习任务和目标&#xff0c;即初步学习 FPGA 简介和 Verilog 基础语法知识。 9:30 - 10:30…
阅读更多...
数据结构(5.2_1)——二叉树的基本定义和术语

数据结构(5.2_1)——二叉树的基本定义和术语

二叉树的基本概念 二叉树是n(n>0)个结点的有限集合: 或者为空二叉树&#xff0c;即n0&#xff1b;或者由一个根结点和两个互不相交的被称为根的左子树和右子树组成。左子树和右子树又分别是一颗二叉树。 特点:每个结点至多只有两颗字数&#xff1b;左子树不能颠倒(二叉树…
阅读更多...
2024牛客暑期多校第一场

2024牛客暑期多校第一场

H 一开始以为考后缀和&#xff0c;耽误了一会。后面直接看样例猜结论&#xff0c;数字乘位置为对答案的贡献 #include<bits/stdc.h>using namespace std;#define int long long #define PII pair<int,int>const int M1000000007;void solve() {int n;cin>>…
阅读更多...
git 代理错误拒绝连接

git 代理错误拒绝连接

git 克隆项目拒绝连接 现象 Failed to connect to 127.0.0.1 port 15732: 拒绝连接 问题描述 代理错误解决方法 取消代理 git config --global --unset http.proxy
阅读更多...
MyBatis源码中的设计模式1

MyBatis源码中的设计模式1

1. 建造者模式的应用 建造者模式属于创建类模式&#xff0c;通过一步一步地创建一个复杂的对象&#xff0c;能够将部件与其组装过程分开。用户只需指定复杂对象的类型&#xff0c;就可以得到该对象&#xff0c;而不需要了解其内部的具体构造细节。《Effective Java》中也提到&…
阅读更多...
springboot的全局异常处理

springboot的全局异常处理

主要有两个异常注解&#xff0c;RestControllerAdvice和 ExceptionHandler(Exception.class) 案例 package com.lwy.exception;import com.lwy.pojo.Result; import org.springframework.web.bind.annotation.ExceptionHandler; import org.springframework.web.bind.annotati…
阅读更多...
类和对象的简述（c++篇）

类和对象的简述（c++篇）

开局之前&#xff0c;先来个小插曲&#xff0c;放松一下&#xff1a; 让我们的熊二来消灭所有bug 各位&#xff0c;在这祝我们&#xff1a; 放松过后&#xff0c;开始步入正轨吧。爱学习的铁子们&#xff1a; 目录&#xff1a; 一类的定义&#xff1a; 1.简述&#xff1a; 2…
阅读更多...
飞睿智能UWB Tag蓝牙防丢器标签，宠物安全新升级，5cm精准定位测距不迷路

飞睿智能UWB Tag蓝牙防丢器标签，宠物安全新升级，5cm精准定位测距不迷路

宠物早已成为许多家庭不可或缺的一员&#xff0c;它们用无条件的爱温暖着我们的心房&#xff0c;陪伴我们度过每一个平凡而温馨的日子。然而&#xff0c;随着宠物活动范围的扩大和外界环境的复杂多变&#xff0c;宠物走失的风险也随之增加。每一次出门遛弯&#xff0c;都像是心…
阅读更多...
如何使用在线工具将手机相册中的图片转换为JPG格式

如何使用在线工具将手机相册中的图片转换为JPG格式

我们经常在手机相册中保存大量的图片&#xff0c;无论是家庭聚会的照片还是旅行的瞬间&#xff0c;每一幅图像都承载着珍贵的记忆。然而&#xff0c;有时候我们会遇到图片格式不兼容的问题&#xff0c;尤其是在需要将图片分享到特定平台或编辑时。 例如&#xff0c;某些社交平台…
阅读更多...
推荐文章
最新文章

Copyright @ 2022~2023