2023 re:Invent|Amazon Q与Amazon CodeWhisperer面向企业开发者提效利器

本篇文章授权活动官方亚马逊云科技文章转发、改写权，包括不限于在亚马逊云科技开发者社区, 知乎，自媒体平台，第三方开发者媒体等亚马逊云科技官方渠道

2023年，以GPT为代表的生成式AI引爆了新一轮技术热潮，短短一年的时间内，生成式AI已经成为科技世界发展的核心。作为云计算的行业风向标盛会re，本届:Invent全球大会紧跟生成式AI浪潮，推出名为“Amazon Q ”的生成式人工智能助手，同时Amazon CodeWhisperer 这款用于 IDE 和命令行的 AI 生产力工具，基于Amazon Q可以给开发人员带来全新的高效编程体验。

正如亚马逊云科技首席执行官Adam Selipsky 在主题演讲中表示：“生成式AI将重塑我们在工作和家庭中所运用到的每一个应用程序，我们正在以一种跟以往完全不同的方式来探讨生成式 AI 的整个概念。”Amazon Q的定位和以往的C端消费级产品不同，生成式AI助手在B端应用赛道上的竞争者寥寥，而作为开发者看了Adam Selipsky的视频介绍，我联想到了实际工作中遇到的问题。

“观望”AI，企业入场犹豫不决究竟何为

我个人深耕B端多年，随着大模型风的兴起，在行业内部接触的客户包括我们自己都在探索AI落地的内容，很多企业会有这方面的诉求是因为，传统行业数字化转型过程中，存在着体量大、业务复杂、定制化要求高的问题，其业务有着沉重的IT建设包袱，各部门、业务之间难以协同，数据壁垒也难以打破，而大模型可以把人与人、人与机器之间的交互过程数据完整的沉淀下来，让它自主学习进步，持续演进。杜绝了过去的烟囱式建设，降本增效的同时还能推动数字化进程。

但对于AI大模型的应用，更多都处于观望+探索的阶段。

一方面，对于大模型的投入产出仍持怀疑态度。另一方面，是数据安全的“刚需”。今年年初，三星就禁止使用ChatGPT，其当时三星允许半导体部门的工程师使用ChatGPT参与修复源代码问题。但在过程当中，员工们输入了机密数据，包括新程序的源代码本体、与硬件相关的内部会议记录等数据。导致核心数据泄密。诸如此类机密数据泄漏事件，层出不穷。

事实上，大模型的底层逻辑是将行业数据标注出来进行深度学习，训练出专注于某一行业的垂直模型。这也意味着，企业的数据要集成到通用大模型的数据池中。而又因为企业数据大多涉及商业机密、个人隐私等问题，对数据安全要求甚高。

所以，对于B端及G端用户而言，其需要的AI服务是能在保证数据安全的同时，还可以能集成通用大模型作为能力补充。

面向工作使用的AI助手-Amazon Q

Amazon Q 就是面向工作使用的一款新型生成式AI助手，它支持用户输入问题，从而进行聊天、生成内容、编程、插件及定制开发。Amazon Q可以根据您的业务进行定制，以便使用公司信息存储库、代码库和企业系统中的数据和专业知识进行对话、解决问题、生成内容并采取行动。Amazon Q提供快速、相关和可操作的信息和建议，有助于简化任务，加快决策和解决问题的速度。在使用亚马逊云科技遇到问题和故障时，Amazon Q可以一键分析原因并想办法解决。客户可以通过亚马逊云科技管理控制台、文档页面、IDE、Slack或其他第三方对话应用程序的聊天界面访问 Amazon Q。

Amazon Q 与通用生成式 AI 的区别

Amazon Q 的官方定义是面向工作使用的AI助手。与市面上的通用性AI的区别主要在于，面向对象不同、数据来源不同、安全性等方面的差异。

通用的生成式 AI 内容主要来源于互联网的公开数据，无法针对特定的数据源进行训练，比如无法跟企业内部数据，业务相结合，也无法满足个人的个性化需求。比如我们使用ChatGPT时候，由于其训练数据的主要来源为互联网，在询问一些细分行业、或下垂龙头企业的数据时，往往会答非所问，或者一本正经的胡说八道。为了让 ChatGPT 学习某个特定的技能，比如企业的内部知识，需要将内容拆分，通过提示词工程，再提供给 ChatGPT 学习，这大大限制了生成式 AI 的能力。因此 Amazon Q 较 ChatGPT 而言有以下优势：

与特定业务相结合，可以实现私有化，根据企业内部数据进行训练。
支持多种数据源，同时保证了数据的安全性
将权限引入生成式 AI 中，在企业中可以根据组织架构对人员设置不同的访问权限；

接下来我们动手试一试，一探究竟。

Amazon Q初体验—基于私有数据的工作助手

使用Amazon Q需要上面几个步骤，虽然看起来操作有一丢丢复杂。但是实际耗时并不会特别久。

创建AI程序

首先我们创建一个AI程序，这里是给了一个步骤索引，我们只需要一步步操作即可。

这里我们选择一个现有的服务角色，并且创建一个KMS key，创建KMS的步骤这里不多叙述，我们根据自己的实际服务进行选择就好了

我这里已经创建好了一个密钥对，在上面勾选我们的KMS

这里也可以选择对资源打Tags，方便后面管理，配置完我们点击下一步

页面会显示Propagating IAM role.This will take 30 seconds, please remain on the page.

选择检索器

检索器是一个索引，我们可以从中实时获取数据。如果要将文档连接到应用程序，需要选择一个检索器。

这里我们选择按需选择

连接数据源

配置完我们的数据源，就可以打开web页面了，右边还可以配置自定义的Title ，提示词等等，还是比较贴心的。

问答测试

作为一个AI助手，文生文问答是最基础的，这里我们提问：“构建无服务器API的AWS无服务器服务是什么？”Amazon Q提供了简明的解释以及参考资料，我们使用这些参考资料来跟进您的问题并验证。在实验中同时发现Amazon Q目前对于中文支持性比较差，希望后续亚马逊可以持续的优化这部分。

当使用AmazonQ来跟进和迭代问题。会展示更多深入的答案和参考资料。通过几轮问答，其实可以看到，回答的内容是符合预期的，并且给出了参考的一些源内容，这有点企业知识库的感觉，整体使用下来，与chatglm2-6b的方案类似，在整个对话中，有对话历史内容的参与，向量库每次匹配出的内容在数据源质量高的情况下是比较精准的，如果数据源缺失，或者是数据源质量比较差，会导致对话历史内容不能起到优化回答的作用。

这里有个很贴心的实现，就是可以在控制台的任何地方，唤起一个Amazon Q的console。只需要选择AWS管理控制台右侧的Amazon Q图标。就可以在使用其他服务或者用例的时候，遇到问题，Amazon Q就变成了一个实用的小助手或者智能的操作手册帮你解决遇到的问题，换个角度思考，Amazon Q对于一些云工作者，无论是开发还是运维其实都是一个很好的体验提升。通过AWS聊天机器人集成到AWS管理控制台、AWS控制台移动应用程序、AWS文档、AWS网站以及Slack和Teams中，可以更方便、更容易地找到所需内容。

Amazon CodeWhisperer 生产力利器

而作为亚马逊云科技推出的最新力作，Amazon Q集成了Amazon CodeWhisperer的功能，为开发人员提供更强大的功能和更出色的使用体验。

当AI助手和IDE结合，就产生了一种奇妙的化学反应，万物皆可Amazon Q。

比如文档+Amazon Q = 智慧文档，IDE+Amazon Q = AI生产力工具。操作台+Amazon Q = 运维小助手。对于B端用户和个人开发者，Amazon Q的落地性和兼容性将到达一个全新的高度。

根据介绍，Amazon Q的生成式AI助手能够直接处理控制台内的故障排除和错误解决，相当于在DEVOPS的职责上承担了更多的责任，使开发人员更专注于创新和问题解决。同时，Amazon Q具备代码转换的能力，类似于IBM Watsonx，可以将COBOL代码转换为Java等目标代码。这种功能的引入无疑为开发人员提供了更多可能性，促使他们更灵活地进行代码维护和升级。对于代码转换的功能，实际是非常实用的。

这里首先我们根据官网的连接，下载AWS Toolkit插件。