什么是提示工程？

news2024/9/22 23:16:34

原文链接：芝士AI吃鱼

理解大规模人工智能模型为何如此行事是一门艺术。即使是最有成就的技术专家也会对大型语言模型 (LLM) 的意想不到的能力感到困惑，大型语言模型是ChatGPT等人工智能聊天机器人的基本构建模块。

因此，提示工程成为生成式 AI 领域的热门工作也就不足为奇了，但这份工作究竟是什么？

什么是即时工程？

专业的提示工程师每天都在研究人工智能的运作原理。他们使用精心设计的提示以及精确的动词和词汇，将聊天机器人和其他类型的生成人工智能发挥到极限，发现错误或新问题。

每个组织的角色细节各不相同，但总的来说，即时工程师致力于以可重复的方式改进机器生成的输出。换句话说，他们试图使人工智能行为与人类意图保持一致。

为什么即时工程并不完全适合技术人员

虽然杰出的提示工程师拥有罕见的纪律和好奇心，但在开发良好的提示时，他们还利用了不限于计算机科学领域的通用技能。

即时工程的兴起正在向具有更多样化技能的创意人员开放生成式人工智能开发的某些方面，其中很大一部分与无代码创新有关。特斯拉前人工智能总监Andrej Karpathy 于 2023 年 1 月发推文表示，“最热门的新编程语言是英语”。

在某种程度上，优秀的提示工程师可以弥补人工智能的局限性：人工智能聊天机器人可以擅长语法和词汇，但没有世界的第一手经验，这使得人工智能开发成为一项多学科的工作。

然而，一些专家质疑该角色的长期价值，因为通过笨拙的提示可以获得更好的输出。但生成技术有无数的用例，人工智能输出的质量标准将不断提高。这表明即时工程作为一项工作（或至少是工作中的一项职能）不会很快消失。

5 项非技术提示工程技能

任何与生成人工智能交互的人都应该对即时工程师的日常活动感兴趣，原因有两个：（1）它阐明了技术的能力和局限性。（2）它让人们更好地理解如何利用他们已经拥有的技能与人工智能进行更好的对话。

以下是通过即时工程的多学科领域促进人工智能技术发展的五种非技术技能。

1. 沟通

就像项目经理、教师或任何定期向其他人介绍如何成功完成任务的人一样，提示工程师需要善于发出指示。大多数人需要大量的例子才能完全理解指令，人工智能也是如此。

Edward Tian开发了 GPTZero，这是一种人工智能检测工具，可以帮助确定高中论文是否由人工智能撰写，并向大型语言模型展示了示例，以便它可以使用不同的声音进行写作。

当然，Tian 是一位拥有深厚技术技能的机器学习工程师，但任何正在开发提示并希望聊天机器人以特定方式编写的人都可以使用这种方法，无论是经验丰富的专业人士还是小学生。

2. 主题专业知识

许多提示工程师负责针对特定用例（例如医疗保健研究）调整聊天机器人。

这就是为什么突然出现要求特定行业专业知识的工程职位招聘信息。例如，英国律师事务所 Mishcon de Reya LLP有一个 GPT 法律提示工程师的职位空缺。他们正在寻找“对法律实践有深入了解”的候选人。

主题专业知识，无论是在医疗保健、法律、营销还是木工方面，对于制作强有力的提示都是有用的。细节决定成败，在与人工智能交谈时，现实世界的经验非常重要。

3. 语言

为了让人工智能取得成功，它需要有意图。这就是为什么善于使用动词、词汇和时态来表达总体目标的人有能力提高人工智能性能。

当 Anna Bernstein 开始在 Copy.ai 工作时，她发现将提示视为一种魔咒很有用：一个错误的单词会产生与预期截然不同的结果。“作为一名诗人，这个角色……通过接近的语言融入了我的痴迷本性。这是我的文学背景和分析思维的一个非常奇怪的交叉点，”她在接受《商业内幕》采访时说道。

AI提示不使用编程语言，而是使用散文，这意味着人们在开发提示时应该释放内心的语言学热情。

4.批判性思维

生成式人工智能擅长合成大量信息，但它可能会产生幻觉（这是一个真正的技术术语）。当聊天机器人的训练或设计质量较差或数据不足时，就会出现人工智能幻觉。当聊天机器人产生幻觉时，它只是吐出虚假信息（以相当权威、令人信服的方式）。

提示工程师找出这个弱点，然后训练机器人变得更好。例如，人工智能初创公司 Scale AI 的即时工程师Riley Goodside在向聊天机器人询问以下问题时得到了错误的答案：“贾斯汀·比伯出生那一年，哪支 NFL 球队赢得了超级碗？” 然后，他要求聊天机器人列出一系列逐步的逻辑推论，以得出答案。最终，它纠正了自己的错误。

这强调了对主题有适当的熟悉程度是关键：对于某人来说，让聊天机器人生成他们无法可靠地进行事实核查的东西可能不是一个好主意。