目前生成式AI应用落地已经从热火朝天的“百模大战”,步入到了少数优秀模型脱颖而出,工具链百花齐放,以及企业主管认真寻找生成式AI落地场景的新阶段。基于这一背景,亚马逊云科技特地举办了亚马逊云科技生成式AI构建者大会,大会于10月24日下午圆满结束。在本次大会中,众行业大咖和技术专家们深度聚焦生成式AI前沿技术,就生成式AI的热点技术话题和热门应用场景展开了深入分享与交流,为开发者们解读了当下应如何应对生成式AI带来的机遇,在AI时代保持强有力的竞争力。
加速大数据与AI普惠
亚马逊云科技助力构建者释放生成式AI潜力
大会开场,亚马逊云科技大中华区产品部总经理陈晓建在以“赋能生成式AI新时代,助力数据与AI普惠化”为题的主题演讲中指出,生成式AI现已成为各行业各组织商业领导者的首要关注点。整个生成式AI的应用就像是浮在海面上的冰山,人们常提到的基础模型只是我们能看到的冰山一角,而在冰川底部,同样需要大量的基础模型以外的服务来支撑,如加速芯片、数据库、数据治理、应用集成等。
亚马逊云科技为用户提供完整的端到端的生成式AI技术堆栈。从底层的加速层如加速芯片、存储优化,到中间层模型构建工具和服务,再到最上层的生成式AI相关应用,每一层都在针对客户的不同需求持续创新。
作为云计算领域的领导者和创新者,生成式AI一直是亚马逊云科技关注和投入的主要方向。推动生成式AI普惠化,助力更多企业和个人开发者加速创新是亚马逊云科技的使命之一。
在实践中,亚马逊云科技注意到,生成式AI的典型应用场景给企业带来的业务价值主要体现在三个方面:增强客户体验,提升员工生产力与创造力,优化业务流程。基于此,亚马逊云科技助力企业和开发者从典型场景入手创新业务模式,快速构建高性价比的生成式AI应用,以打造差异化竞争优势,加速业务敏捷创新。
为让客户能够轻松、安全地按需选择基础模型,亚马逊云科技此前还推出了Amazon Bedrock和Amazon SageMaker JumpStart两款服务。Amazon Bedrock是企业使用基础模型构建和扩展生成式AI应用程序的最简单方法,它提供广泛的模型选择、数据隐私,并且能够自定义模型,无需管理任何基础设施。通过Amazon Bedrock,用户可轻松地将组织数据用作战略资产,使用自定义基础模型并打造更加差异化的优势。此外,Amazon Bedrock还充分考虑到了用户的安全性和隐私保护,帮助客户保护敏感数据。
相较于Amazon Bedrock,Amazon SageMaker Jumpstart则提供了更灵活、更定制化的模型微调。用户可以从SageMaker Jumpstart中选择开源的基础模型,然后根据自身需求选择不同方式,进一步确定微调框架,利用分布式训练实现微调,从而更好地评估微调效果。
金山办公:Amazon Bedrock助力WPS
加速生成式AI应用的构建
在主题分享中,来自金山办公软件股份有限公司的AI研发总监刘强向大家分享了金山办公如何利用生成式AI和Amazon Bedrock帮助企业简化从统一数据到个性化客户体验的过程。
刘强提到,今年起,WPS开始将大语言模型的能力全面引入产品,致力于开发新一代办公软件。而在构建生成式AI应用的过程中,基础模型性能有限,数据隐私与安全难以保障,高额管理成本等现实情况成为了摆在金山办公面前的重重障碍。作为Amazon Bedrock的第一批试用用户,金山办公第一时间与Amazon Bedrock展开了对接与测试。
Amazon Bedrock中支持的领先大语言模型在多个文字处理场景中符合金山办公的需求。除多种模型选择外,Amazon Bedrock还在数据安全层面给金山办公提供了充分的支持,极大地提高了金山办公的内部开发效率,助力金山办公进一步革新办公体验。
高性价比的基础设施是生成式AI应用构建的关键。在接下来的分享中,陈晓建提到,十多年来,亚马逊云科技一直与合作伙伴致力于投资自研芯片,以便为用户提供广泛的高性能、低成本的机器学习基础设施选项,助力客户加速实现生成式AI落地。
此外,亚马逊云科技近日还宣布了Amazon EC2 Inf2实例的正式上市。该实例由最新的亚马逊云科技设计的机器学习芯片Inferentia2提供支持。与其他类似的EC2实例相比,Inf2实例在推理性价比上要高出40%,Trn1实例在训练成本上的节省更是高达50%。基于此,亚马逊云科技为深度学习训练和推理提供了高性能且具有显著成本节省的实例。
在数据战略层面,从存储、查询和分析数据,到通过商业智能、机器学习和生成式AI使数据发挥作用,亚马逊云科技提供广泛的工具组支持整个端到端的数据流程。多年来,亚马逊云科技通过深化服务之间的集成,已经在Zero ETL中取得了一定成果,这些亚马逊云科技各项服务之间的深度的数据集成正在帮助企业执行分析和机器学习,且无需移动数据。
在数据爆炸的现状下,数据治理对于企业来说至关重要。Amazon DataZone全新的数据治理服务可支持整个企业集团组织的数据发现、管理跨部门的访问和使用生命周期。通过统一的数据目录和明确的数据主权分工,企业内数据使用者能轻松地发现有效数据,同时数据的提供者可以严格的管理数据的可见和访问授权,做到仅允许正确的人访问到正确的数据。这一能力对于今天的企业需要负责任的构建生成式AI,严苛的保护企业数据并正确的发挥企业私有数据的价值尤其重要。
西门子:以生成式AI之力重塑数据价值,推进业务创新
来自西门子集团IT数据分析与人工智能负责人李朝明在主题分享中向大家分享了西门子如何携手亚马逊云科技发挥企业数据价值,通过AI与数据能力的全面能力提升来构建基于生成式AI的企业知识聊天机器人。
他提出,当前生成式AI的发展给各行各业带来了革命性的变化。在西门子推动生成式AI落地的过程中,西门子IT DA团队与亚马逊云科技有着长期而深入的合作。面对西门子中国IT面对的企业内部信息分散、数据信息传递能力不足、知识运营能力缺乏等业务难题,亚马逊云科技携手打造了西门子中国业务知识一体化解决方案“小禹”,大大提高了西门子内部团队的生产力和创新效率。
生成式AI的出现,给传统云原生应用开发架构提出了新的机遇与挑战,借助云原生的服务,聚焦以微服务化,事件驱动架构为核心的设计框架Serverless优先,以数据洞察为核心,安全与数据的合规与保护、借助DevOps等现代应用治理理念构建高效敏捷的构建者文化等,加速由云原生到AI原生应用的构建与创新。
亚马逊云科技预见到,编程将是生成式AI技术得到快速应用的领域之一。亚马逊云科技提供的Amazon CodeWhisperer是一款人工智能编码伙伴,可在基础模型高级选项中使用,实时生成代码建议,从根本上提高开发人员的生产力。《2023 AI开发者生态报告》还指出,当前,Amazon CodeWhisperer在国内AI编程工具领域处于领先地位,且是国内用户增速最快的AI编程工具。
科思创中国:借助Amazon CodeWhisperer实现开发效率显著提升
来自科思创中国云开发运维团队负责人俞宙在主题分享中向大家分享了他们如何基于Amazon CodeWhisperer提升代码开发效率,加速生成式AI应用程序构建。
科思创中国在日常开发中有两个核心任务:项目框架搭建和存量代码优化。而在实践中过程中,重复性、机械化的范式生成、惯用算法引用和企业级API接口定制是科思创中国面临的主要挑战。在Amazon CodeWhisperer的加持下,科思创中国的日常代码开发效率和开源代码应用追踪器的准确性显著提高,在构建云原生产品应用的过程中起到了重要作用。
在接下来的分享中,陈晓建还特别提到,一直以来,亚马逊云科技在不断帮助中国开发者群体快速创新。今年以来,亚马逊云科技为初创公司推出了亚马逊云科技创业加速器。今年9月,亚马逊云科技联合了北京市教育委员会指导,北京科学教育发展基金会、清华大学人工智能研究院基础模型研究中心,以及面壁智能、智谱AI、百川智能等客户及合作伙伴,共同发布了“首届中国生成式AI创新应用挑战赛”。如今,开发者的努力和激情正在改变这个世界,不断地拓展着技术的边界,亚马逊云科技将持续为构建者赋能,继续携手合作伙伴与初创圈,扩大生成式AI的“朋友圈”,进一步助力生成式AI的广泛落地。
高峰论坛共话实战经验
行业大咖共看生成式AI当下与未来
在以“共话生成式AI的现在和未来”为题的圆桌讨论环节,Lepton AI CEO贾扬清、百川智能联合创始人COO茹立云、爱诗科技CEO王长虎、亚马逊云科技大中华区产品部总经理陈晓建、亚马逊云科技大中华区初创生态及投资业务发展总监胡瑛围绕开发者在生成式AI应用落地新阶段所面临的机遇和挑战展开了深度讨论。
在交流与分享中,行业大咖们就怎样选择基础模型,如何构建生成式AI时代的数据策略,如何借助云原生加速构建AI Native应用和加速生成式AI应用构建与落地有哪些开发工具,给广大开发者们提出了宝贵建议。
分论坛解读生成式AI应用秘籍
亚马逊云科技助力打造生成式AI应用最佳实践
开发生成式AI应用是一个充满挑战的系统工程,并不是单纯的产品和服务拼接,因此,如何加速客户最终应用的商业化落地,除了亚马逊本身的资源以外,我们同样需要构建强大的合作伙伴“朋友圈”,携手助力解决生成式AI应用构建中的各种技术问题,加速应用落地。
针对构建生成式AI应用端到端的关键路径,为了更加详细的阐述亚马逊云科技如何助力构建者释放生成式AI潜力的方法论,亚马逊云科技分别围绕“基础模型优先”—重构生成式AI时代的应用基座”,打造生成式AI时代的数据战略,基于云原生服务快速AI原生的应用等热点话题,邀请来自亚马逊云科技的技术专家,携手亚马逊云科技的客户和合作伙伴代表,做了丰富而全面的分享,从理论到实践给构建者快速,安全,高效的开发生成式AI应以启迪。