ChatGPT一声惊雷,让全球见识到了生成式AI的威力。当前,生成式AI进入一个爆发时刻,并在许多领域中展现出它的无限潜力。那么,在这轮生成式AI大爆发中,企业应当如何抓住机遇,顺应这一波时代的潮水,得到自己的独特红利?这届亚马逊云科技中国峰会,给了我们答案。
0代码构建应用
AI大爆发中,许多企业都希望能顺势抓住红利,但无论是成本还是技术壁垒,大模型的门槛之高,都会把许多企业拒之门外。亚马逊云科技的Amazon Bedrock,就把大模型的门槛打了下来。
在峰会现场,亚马逊云科技全球产品副总裁Matt Wood为大家展示了一个令人印象深刻的无代码产品demo。
生成式AI的变革
DALL-E 2、Stable Diffusion、ChatGPT等AI工具的相继诞生成功引爆了AIGC时代。由此,2022年也被称为「生成式AI元年」。近二十年来,我们见证了从「机器学习」算法到「深度学习」,再到「基础模型」的发展。随着数据量大规模膨胀,可扩展的算力,再加上机器学习不断创新,生成式AI走向了一个转折点。
在亚马逊云科技中国峰会上,亚马逊云科技全球产品副总裁Matt Wood提到了,生成式AI将最先在四个方面发生深刻的变革。它们分别是:创意输出、功能增强、交互式体验、决策支持。
创意输出是指通过生成式AI做一些有创造力的工作,比如写作、编码、视频、设计等。办公软件能够帮你去做总结、分析各种个性化内容的实现,还有进行相关内容搜索,都是功能增强的体现。另外,交互式体验是通过与包括ChatGPT在内的聊天机器人,进行Q&A互动。最后的决策支持,比如智能数据报表AI助理。
现在,生成式AI的大爆发就在眼前,而且还是多点爆破,许多企业,都希望能抓住机遇。
四大挑战,一站式解决
然而在现实中,企业想要利用生成式AI,还面临着重重困难。
而亚马逊云科技,正在通过种种服务产品,弥补着这一差距,争取让生成式AI的好处,能够惠及所有企业。
1. 获得一流的模型
在当今的背景之下,大多数公司都有使用大语言模型的需要。便捷的访问,靠谱的模型,都渐渐成为刚需。但包括ChatGPT和Bing AI在内的聊天机器人,都无法避免「幻觉」的问题,会输出看起来令人信服、实则是胡说八道的答案。
如何获得一流的模型呢?亚马逊云科技的AmazonBedrock,就提供了非常好的选择。首先,AmazonBedrock最重要的优势就在于,用户可以将其与亚马逊云科技的其他部分集成。这意味着,企业可以更轻松地访问存储在Amazon S3对象存储服务中的数据,并从亚马逊云科技的访问控制和治理策略中受益。其次,通过Amazon Bedrock,用户可以轻松访问AI21的Jurassic-2、Anthropic的Claude、Stability AI的Stable Diffusion,以及亚马逊云科技自己的Amazon Titan模型。
Amazon Titan包含了两个大语言模型,一个是用于生成文本的Titan Text,一个是让网络搜索个性化的Titan Embedding。
用户可以通过自己的数据定制Amazon Titan模型。并且,亚马逊云科技非常保护用户数据隐私,不会将用户数据拿来再训练Amazon Titan模型。
而且,不同于其他大模型时常会出现的「幻觉」,Amazon Titan在训练时非常关注精度,就是为了保证产生的响应一定是高质量的。
2. 安全和私有环境
虽然使用大模型是刚需,但所有客户都不希望自己的数据被拿去训练模型。
在一项调查中亚马逊云科技也发现,由于数据非常宝贵,因此客户的一个关键需求就是,在模型训练的过程中时刻保持数据的安全和隐私。
而Amazon Bedrock的Amazon SageMaker,正提供了这样一个安全的模型训练环境,可以让客户把预训练模型通过在自己的数据上微调,变成一个定制化的模型。
亚马逊云科技的副总裁表示,客户可以使用自己的数据定制Amazon Titan模型,但这些数据永远不会用于训练Amazon Titan模型,可以保证其他客户(包括竞争对手),都不会从这些数据中获益。
3. 低成本和低延迟
而在这些基础上,就需要有相应的工具实现更快的开发。
大模型时代,得算力者得天下。
对此,亚马逊云科技推出的训练和推理芯片AmazonInferentia、Amazon Inferentia2和AmazonTrainium,就加速了AI工具的开发过程。
Amazon Trainium是亚马逊云科技专门为超过1000亿参数模型的深度学习训练打造的第二代机器学习加速器。每个Amazon Elastic Compute Cloud(EC2)Trn1实例可部署多达16个Trainium加速器,为云中的深度学习(DL)训练提供高性能、低成本的解决方案。
Amazon Inferentia是亚马逊云科技设计的一款机器学习推理加速器,可在云中提供高性能和低成本的机器学习推理。与第一代Amazon Inferentia相比,AmazonInferentia2加速器在性能和功能方面实现了重大飞跃,吞吐量提高了4倍,延迟低至前者的1/10。
4. 专业的代码生成
在有了便宜高效的算力之后,另一个让企业开发者头大的问题,就是代码了。
前段时间,GiHub就展开了一项关于「AI对开发者体验影响」的调查。从结果来看,几乎所有(92%)的开发人员都会在工作中使用AI编码工具,大多数(67%)开发者在工作环境和个人时间中都使用过,不过还有6%的开发人员表示他们只在工作之外使用编码辅助工具。其中,更是有超过70%的开发者表示,AI编码工具可以满足现有的性能标准、提高代码质量、更快地输出代码,而且生产级事故也会更少。
无独有偶,亚马逊云科技也曾进行过一个生产力挑战。结果显示,使用自家Amazon CodeWhisperer的参与者在任务的完成率上,要比不使用的高了27%,而平均速度更是快了57%。然而,这对于项目负责人来说,却是一个不小的挑战。
由于大模型的「幻觉」问题,此时的代码和安全审查就变得尤为重要了。
为了解决这些挑战,亚马逊云科技全面推出了AI加持的代码开发工具Amazon CodeWhisperer,可以让用户实现更快、更稳健的开发。
具体来说,经过数十亿行亚马逊和公开可用代码的训练之后,Amazon CodeWhisperer不仅可以理解用自然语言(英语)编写的注释,还能实时生成整个函数和代码的逻辑块(通常包含10-15行代码)。
与此同时,Amazon CodeWhisperer还会自动过滤掉任何可能有偏见或不公平的代码建议,并且对疑似开源代码进行过滤和标记。
要知道,开发者从网上复制代码片段时,很可能就会复制了有安全隐患的代码,或者对开源代码的使用没有进行有效的追溯。而Amazon CodeWhisperer大大扫清了这些潜在的问题。
在安全方面,Amazon CodeWhisperer也是查漏洞、debug样样精通。而且它查起bug来还非常细致,不仅会扫描开发者编写的代码,甚至连自己生成的都不放过。
当然,对于个人用户来说,最重要的一点便是——Amazon CodeWhisperer可以免费用!