【大模型】提示工程基础学习

news2024/11/15 23:27:41

目录

  • 1. 零样本提示
  • 2. 少样本提示
  • 3. 链式思考提示(CoT)
  • 4. 自我一致性
  • 5. 生成知识提示
  • 6. 链式提示
  • 7. 思维树(ToT)
  • 8. 检索增强生成(RAG)
  • 9. active prompt
  • 10. 自我反思(reflexion)
  • 11. 多模态思维链提示方法

1. 零样本提示

不向模型提供任何示例,如:

以下内容是什么情感:中性/积极/消极
今天天气不错

2. 少样本提示

提供少量示例,如:

我喜欢苹果:积极
我讨厌下雨:消极
以下内容是什么情感:中性/积极/消极
今天天气不错

3. 链式思考提示(CoT)

CoT主要有两种范式:

  • 手动添加一些实例推理过程
  • “请逐步思考”

通过中间推理过程进行提示, 如:

这组数中的奇数加起来是偶数:4、8、9、15、12、2、1。
A:将所有奇数相加(9、15、1)得到25。答案为False。

这组数中的奇数加起来是偶数:17、10、19、4、8、12、24。
A:将所有奇数相加(17、19)得到36。答案为True。

这组数中的奇数加起来是偶数:16、11、14、4、8、13、24。
A:将所有奇数相加(11、13)得到24。答案为True。

这组数中的奇数加起来是偶数:15、32、5、13、82、7、1。
A:

特别的,零样本CoT,如:

这组数中的奇数加起来是偶数:4、8、9、15、12、2、1。请逐步思考。

手动添加的方式效果更好,但零样本的CoT更方便。zhang et al.提出了auto-CoT,大概思路:

  1. 将给定的所有问题按照sentence-bert生成的向量聚类
  2. 对于每一个簇,按照升序列表依次遍历每一个问题,对于当前问题,使用Zero-shot生成CoT,如果CoT满足token不大于60个且不超过五个步骤,则将此问题和CoT作为此簇中的每个问题的样例CoT,拼接在这类问题的前面。

4. 自我一致性

通过少样本CoT采样多个推理过程,使用生成结果最一致的答案。

5. 生成知识提示

通过构建特定的提示语句,引导模型从已有的知识库中提取、整合并生成新的、有用的知识内容。

  • 模型本身缺乏解决问题的背景知识:直接给模型相关的知识
  • 模型想不到要用什么背景知识:给一些示例让模型去生成对应问题的背景知识,再把生成得到的背景知识添加到context这进行提问

6. 链式提示

  • 任务分解为子任务
  • 根据子任务的提示词得到一系列结果
  • 将得到的结果作为新的提示词的一部分
    比如如果想要很好的阅读一篇文献,可以先将阅读引文作为子任务

7. 思维树(ToT)

tot由多个子模型构成,每个子模型基于不同的关键词进行进一步思考,主要步骤:

  • 举一反三,列举多路径通罗马
  • 分布评估,集成方案,选择最优
  • 启发性地评估状态,前后枚举追溯,全局最优
  • 集成开搜,确定路径

8. 检索增强生成(RAG)

把一个信息检索组件和文本生成模型结合在一起。RAG 会接受输入并检索出一组相关/支撑的文档,并给出文档的来源(例如维基百科)。这些文档作为上下文和输入的原始提示词组合,送给文本生成器得到最终的输出。

9. active prompt

该算法要求大语言模型根据示例生成一组候选指令集,然后再评估其中哪些更有效。即自动地为通过输出示例指定的任务生成指令:通过直接推理或基于语义相似性的递归过程生成几个候选指令,用目标模型执行它们,并根据计算出的评估分数选择最合适的指令。

10. 自我反思(reflexion)

在这里插入图片描述

11. 多模态思维链提示方法

将文本和视觉融入到一个两阶段框架中。第一步涉及基于多模态信息的理性生成。接下来是第二阶段的答案推断,它利用生成的理性信息。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1909631.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

儿童网络守护计划:如何为孩子营造一个纯净的在线空间?

青少年不想被监视,但他们需要受到保护,免受互联网危险。我们告诉您如何与您的孩子建立信任,同时了解他们在网上面临的挑战。 对于今天的孩子来说,将离线和在线朋友分开是不可能的。青少年在任何时候都与一切事物和每个人联系在一起…

2024年道路运输企业主要负责人证考试题库及道路运输企业主要负责人试题解析

题库来源:安全生产模拟考试一点通公众号小程序 2024年道路运输企业主要负责人证考试题库及道路运输企业主要负责人试题解析是安全生产模拟考试一点通结合(安监局)特种作业人员操作证考试大纲和(质检局)特种设备作业人…

MFC引用C#生成的dll,将dll放置到非exe程序目录,如何操作?

🏆本文收录于「Bug调优」专栏,主要记录项目实战过程中的Bug之前因后果及提供真实有效的解决方案,希望能够助你一臂之力,帮你早日登顶实现财富自由🚀;同时,欢迎大家关注&&收藏&&…

【Linux进阶】vim的用法

1.什么是vi/vim? 简单来说,vi是老式的文本编辑器,不过功能已经很齐全了,但是还是有可以进步的地方。vim则可以说是程序开发者的一项很好用的工具,就连 vim的官方网站( http://www.vim.org)自己也说vim是一…

《无所不能的JavaScript · prototype 原型链》

📢 大家好,我是 【战神刘玉栋】,有10多年的研发经验,致力于前后端技术栈的知识沉淀和传播。 💗 🌻 近期刚转战 CSDN,会严格把控文章质量,绝不滥竽充数,欢迎多多交流。&am…

掌握Midjourney:一份全面的使用教程

Midjourney 它是一种通过人工智能生成图片的人工智能绘画工具,如何使用Midjourney?很简单,只要在对话框中输入imagine 命令,添加您需要的图像描述或关键字,并在发送后生成相应的艺术图片。除了其强大的生图功能外&…

STM32CubeMX如何配置生成项目以及安装包

目录 一、STM32CubeMX介绍 二、用STM32CubeMX生成项目 1.创建项目 2.定义引脚 3.配置时钟 4.保存项目 5.生成项目 6.打开项目 一、STM32CubeMX介绍 STM32CubeMX是STM32Cube工具家族中的一员,专门为STM32微控制器的开发提供便利。它是一款图形化工具&#xf…

古代VS现代,太阳黑子的影响有什么变化?

公元前28年,我国汉朝人在人类历史上第一次记载下了“太阳黑子”。在《汉书五行志》里是这样记载:“汉成帝河平元年三月乙未,日出黄,有黑气,大如钱,居日中央”。在2052年前,人类对于太阳黑子的认…

基于考研题库小程序V2.0实现倒计时功能板块和超时判错功能

V2.0 需求沟通 需求分析 计时模块 3.1.1、功能描述←计时模块用于做题过程中对每一题的作答进行30秒倒计时,超时直接判错,同时将总用时显示在界面上;记录每次做题的总用时。 3.1.2、接口描述←与判定模块的接口为超时判定,若单题用时超过 …

【BUG】已解决:JsonMappingException

已解决:JsonMappingException 欢迎来到英杰社区https://bbs.csdn.net/topics/617804998 概述: 没有getter方法的实体的序列化,并解决Jackson引发的JsonMappingException异常。 默认情况下,Jackson 2只会处理公有字段或具有公有get…

镭速助力全球高速传输,实现点对点高效传输打破时差壁垒!

在当今全球化的背景下,跨国界的文件协作已成为许多跨国企业日常工作的一部分。但是,时差和网络不稳定等因素常常影响团队间的有效交流与合作。特别是在大文件传输环节,传统的在线传输方法在接收方离线或网络条件不佳时显得力不从心&#xff0…

pycharm使用micropython

一、打开设置 2、搜索micropython、安装、重启 3、第5步需要设置成你插的电脑USB口,一个一个试 4、 5、 6、OK

【重大消息】报告称OpenAI的产品可经由微软的服务提供给中国客户

尽管OpenAI正在采取措施限制中国用户访问其平台,但一份最新报告称,中国用户仍可通过微软的Azure云计算平台访问该公司的产品。微软和OpenAI有着密切的合作关系,前者通过人工智能功能获得了独家产品访问权以拓展企业计算。最新的报道来自《The…

全新UI自助图文打印系统小程序源码 PHP后端 附教程

最新自助图文打印系统和证件照云打印小程序源码PHP后端,为用户用户自助打印的服务,包括但不限于文档、图片、表格等多种格式的文件。此外,它们还提供了诸如美颜、换装、文档打印等功能,以及后台管理系统,方便管理员对打…

超市收银系统源码

今天给大家分享一套线上线下打通的收银系统,安卓/win双端线下收银台,可DIY、多模板的三端线上小程序商城,除此之外ERP进销存管理、商品管理、会员营销都很完善。 重点是系统支持OEM贴牌独立部署和全开源源码,非常适合一些正在寻找…

服务器感染了.hmallox勒索病毒,如何确保数据文件完整恢复?

导言: 在当今高度数字化和互联的时代,勒索病毒已经成为网络安全的一个主要威胁。特别是近期出现的.hmallox勒索病毒,以其高效的加密技术和致命的数据锁定能力,引发了广泛关注和担忧。本文91数据恢复将深入探讨.hmallox勒索病毒的…

EEPROM-AT24C02存储器芯片数据读写

一、前言 1.1 功能介绍 在嵌入式系统设计中,数据的存储与读取是至关重要的一环。随着技术的不断发展,对存储设备的性能、容量和可靠性要求也越来越高。EEPROM(电可擦除可编程只读存储器)作为一种非易失性存储介质,以…

ISO 20000认证:驱动企业IT服务管理变革的利器

在信息技术驱动商业发展的今天,企业对高效、可靠和安全的IT服务需求日益增长。ISO 20000作为国际公认的IT服务管理标准,能够帮助企业在竞争激烈的市场环境中脱颖而出,实现IT服务管理的全面提升。本文将深入探讨ISO 20000认证如何帮助企业优化…

idea运行旧的项目如何引入jar包

背景: 有一个旧项目,年份不详, 生产环境运行正常, 生产环境jenkins打包正常;部分jar包为私包,已无法下载 现在要对这个项目进行调试修改 从生产环境下载正常的jar包解压找到lib把lib放到项目目录中 然后选者对应的jdk版本: 一个模块一个模块的 把刚才的库加进去 然后试着启…

免费听书TV版

技术文档摘要 标题: 听书软件用户体验与功能概述 摘要: 本文档提供了一款听书软件的用户体验和功能描述。软件以其稳定性、简洁的用户界面和纯净的用户体验受到用户青睐。文档概述了软件的主要特点、操作便利性以及对遥控器操作的支持。 关键词&#…