一直以来Llama可以说是AI社区内最强大的开源大模型。但因为开源协议问题，一直不可免费商用。7月19日，Meta发布了大家期待已久的免费可商用版本Llama 2。一夜之间，大模型格局再次发生巨变。  

作为Meta宣布的首批合作伙伴之一，现亚马逊云科技客户可通过Amazon SageMaker JumpStart使用由Meta开发的Llama 2基础模型！

Llama 2大语言模型（LLM）系列是经过预训练和微调的生成式文本模型，其参数数量从70亿到700亿不等。微调的大语言模型称为Llama-2-chat，它们专为对话用例进行优化，现在，SageMaker JumpStart支持试用和使用这些模型；SageMaker JumpStart是机器学习（ML）中心，提供了对算法、模型和机器学习解决方案的访问权限，以便您可以快速开始使用机器学习。

 

Llama 2简介

Llama 2是一种使用优化的Transformer架构的自回归语言模型。Llama 2旨在用于英文领域的商业和研究用途。该模型提供了一系列参数规模，70亿、130亿和700亿，以及预训练和微调的变量。

Meta表示，微调的版本采用监督微调（FT）和基于人类反馈的强化学习（RLHF），与人类喜好保持一致，从而确保实用性和安全性。Llama 2使用来自公开来源的2万亿个字节数据进行了预训练。微调的模型用于辅助式聊天，而预训练的模型可适用于各种自然语言生成任务。无论开发人员使用哪个版本的模型，Meta的负责使用指南都可以帮助指导通过适当的安全缓解措施定制和优化模型可能需要的额外微调。

 

Amazon SageMaker JumpStart介绍

亚马逊云科技致力于不断降低机器学习的使用门槛。截至目前，亚马逊云科技已经帮助超过10万家来自各行各业的不同规模的客户使用机器学习进行创新。

为此，亚马逊云科技推出了机器学习一站式开发平台Amazon SageMaker，为所有开发人员构建、训练和部署基础模型提供最大的便利，为更多客户提供能够访问基础模型的能力。作为Amazon SageMaker的核心组件之一，SageMaker JumpStart内置300+种开源模型，10+种预设场景解决方案，可以帮助用户“一键式”部署和微调诸如Stable Diffusion，Bloom、FLAN-T5、Alexa TM等主流的生成式AI基础模型，用户可以通过SageMaker JumpStart一键部署或微调众多预训练模型，轻松开发高质量模型并缩短部署时间。

现在，只需在Amazon SageMaker Studio中点击几下，或通过SageMaker Python SDK以编程方式发现和部署Llama 2，即可利用Amazon SageMaker Pipelines、Amazon SageMaker Debugger或容器日志等SageMaker功能体验模型性能和MLOps控制。模型部署到亚马逊云科技安全环境中并接受VPC控制，有助于确保数据安全。目前，Amazon SageMaker Studio支持Llama 2模型（仅限us-east 1和us-west 2地区使用）。

 

结语

2023年4月亚马逊云科技重磅推出以Amazon Bedrock为代表的生成式AI“全家桶”，正式入局全球生成式AI大竞赛战场，旨在携手业界领先合作伙伴一起，不断降低生成式AI应用的开发门槛，助力企业释放生成式AI的生产力与创造力。

以终为始，站在生成式AI的发展的转折点上，作为云计算领域的领导者，亚马逊云科技将持续助力每个企业，每个人都有机会去获得，利用和享受生成式AI新技术带来的福利。