在亚马逊云科技2023 re:Invent美国拉斯维加斯现场,亚马逊云科技数据和人工智能副总裁Swami Sivasubramanian宣布了众多在生成式AI领域的发布和创新,其中就包括Anthropic Claude 2.1和Meta Llama 2 70B两款大语言模型已在Amazon Bedrock正式可用。
亚马逊云科技数据和人工智能副总裁Swami Sivasubramanian
Amazon Bedrock是亚马逊云科技于今年4月发布的一项全面托管的服务,通过它,企业用户可以通过API等方式轻松访问包括亚马逊云科技自研的Titan(Amazon Titan)系列大语言模型和AI21 Labs、Anthropic、Cohere、Meta、Stability AI等众多主流第三方大语言模型。
新增两大第三方主流大语言模型可用
在生成式AI领域,Anthropic被称为OpenAI的最强竞争对手,旗下旗舰大语言模型产品Claude有着不凡实力,而Anthropic与亚马逊有着紧密合作。
今年9月,亚马逊宣布与Anthropic展开战略合作,双方的合作包括亚马逊向Anthropic投资40亿美元并持有其部分股权;Anthropic长期承诺将通过Amazon Bedrock向全球亚马逊云科技客户提供其未来基础模型的访问权;以及亚马逊的开发人员和工程师可以通过Amazon Bedrock使用Anthropic大语言模型构建产品,以便将生成式AI能力融入到他们的工作中等等。
此次,在Amazon Bedrock上正式可用的Anthropic Claude 2.1提供了长达200,000个token的上下文窗口,并且提高了长文档的准确性。客户可以处理文本密集型文档,例如财务报表和内部数据集。Claude 2.1能够总结和对比文档、进行问答等。Anthropic报告称,与此前的大语言模型相比,Claude 2.1在开放式对话中的错误陈述减少了50%,错误陈述率减少了一半。
另一个在Amazon Bedrock上新增可用的是Meta Llama 2 70B大语言模型。这意味着现在,除了之前发布的Llama 2 130亿参数大语言模型之外,Llama 2 700亿参数大语言模型也已在Amazon Bedrock上提供。
Llama 2是Meta的下一代大语言模型。据悉,Llama 2 的训练数据比Llama 1多40%,上下文长度是Llama 1的两倍。Llama 2 Chat建立在预训练的Llama大语言模型之上,通过指令数据集和超过100万条人工注释进行调优,针对对话场景进行了优化。这些大语言模型在多个外部基准测试中的表现卓越,包括推理、编码、熟练程度和知识测试,并在Amazon Bedrock上提供了极高的性能价格组合。
自有Amazon Titan大语言模型发布多项新能力
同时,亚马逊云科技自有Titan(Amazon Titan)大语言模型在2023 re:Invent上也推出了多项新大语言模型能力。包括Amazon Titan Multimodal Embeddings、Amazon Titan Text Lite、Amazon Titan Text Express、Amazon Titan Image Generator。
其中,Amazon Titan Image Generator这一模型可以理解复杂的提示词并生成相关图像,可帮助广告、电子商务、媒体和娱乐等行业的客户通过使用自然语言提示生成高质量、逼真的图像或增强现有图像,以便以低成本快速构思和大量迭代图像。
Amazon Titan Multimodal Embeddings模型可提供多模态搜索和推荐体验,通过它,用户可以使用短语、图像或图像和文本的组合来搜索图像,例如,可以输入“我要和这张照片类似的图像,但天空是晴朗的”等这种既包含图片也有文字的描述方式来搜索。
现在,借助Amazon Bedrock,企业客户可以利用的最新版本的大语言模型包括Amazon Titan的5款大语言模型、新推出的Anthropic Claude 2.1和Meta Llama 2 70B以及此前推出的Stability AI Stable Diffusion XL 1.0、Meta Llama 2 Chat 13B、Cohere Command Light、Cohere Embed English和Cohere Embed大语言模型等。
另外,值得一提的是,对于企业而言,能用的大语言模型如此之多,那么到底哪一个或者哪些组合才是最适配用户需求的呢?
为了帮助企业客户在纷繁的大语言模型中选出最适合自己的那一个,Amazon Bedrock还推出了“模型评估功能”,可帮助企业客户使用自动或人工评估来评估、比较和选择适合其特定应用场景的最佳模型。目前该功能已推出预览版。
同时,为了进一步方便企业客户生成、部署自己的大语言模型应用产品,“Agents for Amazon Bedrock(Amazon Bedrock代理功能)”也正式可用。
Agents for Amazon Bedrock的目的就是为了进一步降低企业客户使用客户Amazon Bedrock来构建自己的生成式AI应用程序的门槛。通过它,企业用户可以简单的设置就能加速生成式AI应用程序的开发。
Swami Sivasubramanian表示:“生成式AI有望成为我们这个时代最具变革性的技术。客户积极应用生成式AI创造新机遇、应对业务挑战,这给我们带来了启发。当客户将生成式AI融入其业务时,他们会利用Amazon Bedrock以全托管的方式获取领先大语言模型、定制功能、代理功能以及企业级安全和隐私保障。有了更多触手可及的工具,客户可以使用Amazon Bedrock充分发挥生成式AI的潜力,创新用户体验、重塑业务并加速生成式AI之旅。”