【AI落地应用实战】Amazon Bedrock +Amazon Step Functions实现链式提示(Prompt Chaining)

news2024/9/17 7:12:52

一、链式提示 Prompt Chaining架构

Prompt Chaining 是一种在生成式人工智能(如大型语言模型)中广泛使用的技术,它允许用户通过一系列精心设计的提示(Prompts)来引导模型生成更加精确、丰富且符合特定需求的内容。

Prompt Chaining 的核心思想在于不是一次性给出一个复杂的指令或问题给模型,而是将大问题分解成一系列更小、更具体的子问题,每个子问题通过生成的文本作为下一个提示的基础,逐步引导模型向目标输出逼近。这种链式提示的方式能够有效提高模型的响应质量,减少错误,并使得生成的内容更加符合用户的预期。

Prompt Chaining的工作原理基于两个关键要素:任务分解和对话连续性。

  1. 任务分解:首先,用户需要将复杂的任务或问题分解成一系列可管理的子任务或子问题。这些子任务应该按照逻辑顺序排列,以便逐步引导模型向最终目标靠近。
  2. 对话连续性:在分解任务后,用户会向模型发送第一个提示,并接收其生成的响应。然后,用户会根据这个响应设计下一个提示,这个提示可能会引用或反馈前一个响应的内容,以保持对话的连续性和一致性。这个过程会重复进行,直到达到满意的结果。

在这里插入图片描述
以上是一个示例的链式提示架构,首先其设计了一系列通过Amazon Step Functions定义的状态机。每个状态机代表了一个示例或任务的执行流程,它能够引导程序完成特定的任务或操作。这些状态机会调用Amazon Bedrock中的基础模型来生成对应内容,最后Streamlit应用程序将展示这些状态机执行的结果,并展示给用户。

二、实践:Amazon Bedrock +Amazon Step Functions实现链式提示

2.1、依赖安装与代码准备

首先进入亚马逊云科技海外区官网,点击亚马逊控制台,搜索Cloud 9,打开Cloud9 控制台界面:
在这里插入图片描述
进入控制台后,点击打开Cloud9 IDE:
在这里插入图片描述
进入Cloud9 IDE之后,首先在终端中输入sudo npm install -g npm更新NPM,然后,使用npm安装cdk:
在这里插入图片描述
然后,使用git克隆,下载本次实践的代码:

git clone https://github.com/aws-samples/build-genai-agent-workflows-with-step-functions

出现build-genai开头的文件夹时,表明代码拉取成功:
在这里插入图片描述
最后,cd进入build-genai-agent-workflows-with-step-functions文件夹,并安装对应依赖:

cd build-genai-agent-workflows-with-step-functions/
pip install -r requirements.txt

在这里插入图片描述

2.2、通过 CDK 部署项目

CDK(AMazon Cloud Development Kit)是一个开源的软件开发框架,其提供了一种声明式的方法来构建、编写和部署基础设施,使得基础设施的创建和管理更加可靠、可重复和易于维护。
准备好代码和依赖后,下面在终端输入:cdk deploy --all开始部署,部署大致需要 5 分钟:
在这里插入图片描述
部署成功后,会给出预览的网址,单击链接,打开项目地址:
在这里插入图片描述
项目的效果如下,其将故事撰写任务分为多个子任务,首先为故事生成角色列表,然后为故事生成每个角色的情节,之后使用角色描述和情节生成短篇故事。
在这里插入图片描述

2.3、打开 Step Functions监控工作流运行细节

以上项目已经为我们成功创建了 Step Functions工作流,我们可以打开控制台,搜索并点击进入Step Functions:
在这里插入图片描述
在Step Functions控制台中找到PromptChainDemo-StoryWriter状态机:
在这里插入图片描述
打开任务,并查看streamlit开头的任务:
在这里插入图片描述
在图表视图里,就可以看到工作流的具体流程以及正在发生的事件:
在这里插入图片描述

故事撰写的完整工作流图示如下:

在这里插入图片描述
整个工作流设计了一个使用人工智能辅助创作故事的过程,其中包括角色和故事情节的生成、迭代、错误处理、故事合并和最终选择,其中它从“Start”开始,然后进入一系列步骤,每个步骤都以“Generate Characters”或“Generate Character Story Arc”开始,表明这些步骤是关于角色生成或故事情节构建的。整个工作流的连贯分析如下:

  1. 角色生成:首先,工作流涉及角色的创建,包括准备消息、格式化提示、调用模型、提取模型响应和准备输出。创作者需要准备输入给模型的信息,然后使用模型生成角色,最后提取并准备这些角色的输出。
  2. 角色故事映射:在角色生成后,有一个“Character Story Map”步骤,这意味着将角色与他们的故事线进行关联或映射。
  3. 故事情节生成:与角色生成类似,故事情节的生成也包括准备消息、格式化提示、调用模型、提取模型响应和准备输出。
  4. 合并角色故事:在角色和故事情节生成之后,有一个“Merge Character Stories”步骤,将不同角色的故事线合并成一个连贯的故事。
  5. 故事完整性:接下来是“Generate the Full Story”,这包括准备消息、包括之前的消息、格式化提示、调用模型、提取模型响应和准备输出,主要用于整合之前生成的所有元素,以形成一个完整的故事。
  6. 选择故事:最后,有一个“Select Story”步骤,这可能意味着从生成的多个故事中选择一个最终版本。

至此,我们就成功部署了一个基于 Amazon Bedrock,Amazon Cloud9,Amazon Step Functions,Amazon Lambda 和 Amazon Fargate 等 Serverless服务搭建的工作流。这个工作流使用Prompt Chaining将一个宏大的创作任务——Story Writer——分解成一系列角色创建、情节设计等步骤。每个步骤都通过调用LLM并传递特定的Prompt来执行。把一个复杂的任务分解成多个步骤,多次调用大语言模型,稳定可靠的完成任务。

现在进入亚马逊云科技海外区官网,除了免费的Amazon Step Functions、Amazon Lambda,还有丰富的亚马逊云服务器(Amazon EC2)、亚马逊云科技云存储(Amazon S3),负载均衡(Elastic Load Balancing),虚拟服务器VPS(Amazon Lightsail)、视频会议(Amazon Chime )等等100 余种云产品或服务免费试用。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1957712.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

freertos-HAL库-STM32Cubemax生成

打开cubemax选好型号配置RCC(外部高速时钟)这里查看原理图,我们把按键设为输入,led设为输出创建两个新任务(default是系统创建的)配置时钟,这里HSE是外部高速时钟,HSI是内部的&#…

打卡第27天------贪心算法

再次祈祷上帝,提前预备好自己,希望我可以在机会来临的时候,抓住机会,成功上岸! 一、理论基础 什么是贪心?例如:有一堆钞票,你可以拿走十张,如果想达到最大的金额,你要怎么拿? 你肯定是每次拿最大的,最终结果就是拿走最大数额的钱了。 每次拿最大的就是局部最优,…

【Python从入门到进阶】61、Pandas中DataFrame对象的操作(二)

接上篇《60、Pandas中DataFrame对象的操作(一)》 上一篇我们讲解了DataFrame对象的简介、基本操作及数据清洗相关的内容。本篇我们来继续讲解DataFrame对象的统计分析、可视化以及数据导出与保存相关内容。 一、DataFrame的统计分析 在数据分析和处理中…

Selenium Java中的isDisplayed()方法

isDisplayed()方法用于确定元素是否可见。本文将详细讨论 的WebElement接口isDisplayed()方法。 方法声明- boolean isDisplayed()它能做什么?此方法用于判断元素是否显示。这个方法节省了我们…

EasyExcel入门

目录 一、文章简介 二、概念 1.EasyExcel是什么? 2.EasyExcel 能用在哪里? 3.为什么要选用EasyExcel解析excel? 4.如何使用EasyExcel? 三、EasyExcel快速入门 1.环境搭建 2.简单写excel 代码示例 TestFileUtil Employe…

C++(week14): C++提高:(二)C++11线程库

文章目录 一、线程1.C11线程库的概述2.构造函数3.线程启动: 线程入口函数的传递方式4.线程终止5.线程状态6.获取线程id:get_id() 二、互斥锁1.什么是互斥锁2.头文件3.常用函数接口 三、lockguard与unique_lock1.lock_guard2.unique_lock(1)概念(2)函数接口 3.原子数…

Python脚本:使用PyPDF2给一个PDF添加上页数/总页数标签

一、实现代码 import PyPDF2 from PyPDF2 import PdfWriter from PyPDF2.generic import AnnotationBuilder# 指定输入和输出pdf pdf_path rC:\Users\ASUS\Desktop\temp\xxxx.pdf out_path rC:\Users\ASUS\Desktop\temp\xxxx2.pdf# 创建 PdfWriter 对象 writer PdfWriter()…

Python转换Excel文件为SVG文件

SVG(Scalable Vector Graphics)是一种基于XML的矢量图像格式。这种格式在Web开发和其他图形应用中非常流行,提供了一种高效的方式来呈现复杂的矢量图形。如果我们需要在网页中嵌入Excel表格,或是直接使用Excel工作表制作网页&…

基于元神系统编写“清屏”程序

1. 背景 本文介绍了基于元神系统开发软件的操作流程,并详细介绍了“清空屏幕”程序的编写以及测试结果。 2. 方法 (1)编写程序 在元神系统0.4版的基础上,用FASM汇编语言进行软件开发。假设屏幕为80列25行的文本显示模式&#…

【更新2022】各省农业科技活动经费(RD)测算 1999-2022 无缺失

各省农业科技活动经费(R&D)测算数据在农业经济学、政策研究和农村发展规划等领域的论文研究中具有重要应用价值。首先,这些数据可以用于分析不同省份在农业科技投入上的差异及其对农业生产力和产出的影响,帮助揭示不同地区农业…

Node.js版本管理工具之NVM

目录 一、NVM介绍二、NVM的下载安装1、NVM下载2、卸载旧版Node.js3、安装 三、NVM配置及使用1、设置nvm镜像源2、安装Node.js3、卸载Node.js4、使用或切换Node.js版本5、设置全局安装路径和缓存路径 四、常用命令技术交流 博主介绍: 计算机科班人,全栈工…

坐牢十八天 20240729(IO)

一.笔记 1. 有关系统时间的函数 1> 有关时间的函数 #include <time.h> time_t time(time_t *tloc); 功能&#xff1a;获取系统时间&#xff0c;从1970年1月1日0时0分0秒&#xff0c;到目前累计的秒数 参数&#xff1a;用于接收的秒数 返回值&#xff1a;秒数使…

【每日刷题】Day89

【每日刷题】Day89 &#x1f955;个人主页&#xff1a;开敲&#x1f349; &#x1f525;所属专栏&#xff1a;每日刷题&#x1f34d; &#x1f33c;文章目录&#x1f33c; 1. 102. 二叉树的层序遍历 - 力扣&#xff08;LeetCode&#xff09; 2. 155. 最小栈 - 力扣&#xff0…

Open3D 计算点云质心

目录 一、概述 1.1原理 1.2实现步骤 二、代码实现 2.1关键函数 2.2完整代码 三、实现效果 Open3D点云算法汇总及实战案例汇总的目录地址&#xff1a; Open3D点云算法与点云深度学习案例汇总&#xff08;长期更新&#xff09;-CSDN博客 一、概述 1.1原理 在Open3D中&am…

成为git砖家(8): 使用 git log 查询范围内的 commit

文章目录 1. 查询 git log 的文档2. 不带任何参数: git log 啥意思&#xff1f;3. git log 最主要功能是什么&#xff1f;4. git log <commit1>..<commit2> 什么意思5. 查看最近n次commit6. References 1. 查询 git log 的文档 git help log --web市面上针对 git …

从善如流之您最亲近人之善,肯出力之象-下学而上达

您最亲近人之善&#xff0c;肯出力之象&#xff0c;就是那个爬&#xff0c;甚至于跪倒在地上&#xff0c;抹那个下水井子。这或许就是那个马云大佬讲过的&#xff0c;就是从您最近距离&#xff0c;身边的人学习。人家为啥做的好&#xff0c;出色&#xff1f;而且您是一母同胞之…

太坑了!RabbitMQ+PHP开发的辛酸经历

博主介绍&#xff1a;全网粉丝10w、CSDN合伙人、华为云特邀云享专家&#xff0c;阿里云专家博主、星级博主&#xff0c;51cto明日之星&#xff0c;热爱技术和分享、专注于Java技术领域 &#x1f345;文末获取源码联系&#x1f345; &#x1f447;&#x1f3fb; 精彩专栏推荐订阅…

设计模式:模板方法模式:封装不变,扩展可变

目录 一、模板方法模式的定义与结构 二、模板方法模式的优点 三、模板方法模式的示例 示例一&#xff1a; 示例二&#xff1a; 四、总结 在软件开发中&#xff0c;设计模式是解决常见问题的可复用方案。其中&#xff0c;模板方法模式是一种行为型设计模式&#xff0c;它在不…

lora微调Qwen模型全流程

LoRA 微调 Qwen 模型的技术原理概述 LoRA&#xff08;Low-Rank Adaptation&#xff09;是一种用于大模型高效微调的方法。通过对模型参数进行低秩分解和特定层的微调&#xff0c;LoRA 能在保持模型性能的前提下显著减少训练所需的参数量和计算资源。接下来是对 LoRA 微调 Qwen…