DeepMind 推出 OPRO 技术，可用于优化 ChatGPT 提示

news2024/11/15 19:54:39

本心、输入输出、结果

文章目录

DeepMind 推出 OPRO 技术，可用于优化 ChatGPT 提示
- 前言
- - 消息摘要
  - OPRO的工作原理
  - DeepMind的研究
  - 相关链接
  - 花有重开日，人无再少年
  - 实践是检验真理的唯一标准

DeepMind 推出 OPRO 技术，可用于优化 ChatGPT 提示

编辑：简简单单 Online zuozuo
地址：https://blog.csdn.net/qq_15071263

个人简介 : 简简单单Online zuozuo，目前主要从事 Java 相关工作，商业方向为 B、G 端，主要使用Java、Python 进行日常开发，喜欢探索各个方面的内容，对很多的方向、内容感兴趣：目前对 AIGC、云计算、物联网方向感兴趣

未闻万里蓬莱，而窥先圣遗智。故，以此生筑梦，奔而逐之;以泰山之伟，攀而登之;以静雅素心，处
世为人。

欢迎有兴趣的朋友相互交流，共同成长。微信: tja6288 商务合作/资料获取/技术交流

如果觉得本文对你有帮助，欢迎点赞、收藏、评论

前言

DeepMind 推出 OPRO 技术，可用于优化 ChatGPT 提示

在这里插入图片描述

消息摘要

🧠 OPRO（优化通过提示）是由Google DeepMind开发的强大方法，利用大型语言模型(LLM)作为其自身提示的优化器。
🔄 OPRO通过使用LLM作为优化器，以自然语言描述的方式解决问题，从而改进提示的性能，特别适用于梯度不容易获取的提示优化问题。
🌐 DeepMind在线性回归和“旅行推销员问题”等数学优化问题上测试了OPRO，并展示了在优化LLM如ChatGPT和PaLM上的潜在效果。

Google DeepMind推出了一项名为“优化通过提示（OPRO）”的技术，将大型语言模型(LLM)作为其自身提示的优化器。该方法旨在通过自然语言描述问题，指导LLM生成和改进解决方案，从而提高提示性能。

在这里插入图片描述

OPRO的工作原理

OPRO的工作方式相对简单，使用LLM作为优化器，但与使用数学公式不同，它采用自然语言描述优化问题，指导LLM迭代生成和改进解决方案。这对于提示优化等问题特别有用，因为在这些情况下，梯度不容易获取。

该技术以“元提示”作为输入，由任务的自然语言描述以及一些问题和解决方案的示例组成。在优化过程中，LLM基于问题描述和元提示中的先前解决方案生成候选解决方案。然后，OPRO评估这些候选解决方案的结果，并将它们与其质量得分一起添加到元提示中。这个过程重复进行，直到模型不再提出具有改进得分的新解决方案

LLM作为优化器的一个关键优势是它们能够处理自然语言指令，这使用户能够描述优化任务而无需形式规范。例如，用户可以指定“准确性”等度量标准，同时提供其他指令，如要求模型提供简洁且普遍适用的解决方案。
OPRO还充分利用了LLM对上下文模式的识别能力，通过在元提示中包含的示例来识别优化轨迹。这一方面是OPRO的核心魔力，因为LLM将语言视为数字令牌，可以发现人类观察不到的模式。

DeepMind在线性回归和“旅行推销员问题”等两个著名的数学优化问题上测试了OPRO，并展示了在这些情况下的有望结果。然而，OPRO的真正潜力在于优化LLM的使用，如ChatGPT和PaLM

在这里插入图片描述

DeepMind的研究

DeepMind的研究显示，OPRO可以引导LLM优化其自身提示，即找到最大化特定任务响应准确性的提示。例如，为了发现解决词数学问题的最佳提示，一个“优化器LLM”被给予一个包含指令和示例的元提示，其中包含优化提示的占位符。模型生成一组不同的优化提示，并将它们传递给一个“评分LLM”，该LLM在问题示例上测试它们并评估结果。最佳提示及其分数被添加到元提示的开头，然后重复这个过程。

研究人员使用PaLM和GPT系列的多个LLM对该技术进行了评估，根据实验，所有模型都能通过迭代优化提高生成提示的性能。

虽然DeepMind尚未发布OPRO的代码，但该技术的概念直观且简单，可以在几小时内创建一个自定义实现。这里分享一个由LlamaIndex制作的使用OPRO增强LLM在检索增强生成（RAG）任务上性能的逐步指南感兴趣的可以访问阅读。

OPRO是利用LLM优化其性能的多种技术之一，这一领域正在积极探索各种主题，包括越狱和红队行动，研究人员正在不断释放大型语言模型的全部潜力

在这里插入图片描述