算力井喷、全球布局,亚马逊云科技生成式AI不断创新解决企业需求

news2024/11/28 4:44:49

时至今日,生成式AI在创意输出(如写作、编程、设计)、功能增强(如写摘要、搜索)、交互式体验(Q&A、聊天)和决策支持(各类助理)这四个领域已展现出惊人潜力。

在亚马逊云科技2023中国峰会上,亚马逊云科技大中华区产品部总经理陈晓建也带来两类实际案例,向我们展示了它是如何帮助企业解决在如今的生成式AI大背景下进行创新时,遇到的算力资源和全球化问题。

2f6c485bfd8746c69bca712cacbb5c39.png

 

由于生成式AI技术的爆发,行业整体算力需求井喷,并由此带来三大挑战:算力资源本身的紧缺、计算资源的弹性化供给困惑以及云上运维的门槛和复杂度还不够低。

首先,亚马逊云科技推出各类自研芯片,如可以帮CPU减负的云计算专用芯片Amazon Nitro、基于ARM架构的通用处理器芯片Amazon Graviton以及专为机器学习训练和推理开发的Amazon Inferentia和Amazon Traininum系列芯片,来帮助企业实现超高的算力性价比。

以F1赛车为例,主办方通过使用亚马逊云科技的Amazon Graviton 3E芯片进行空气动力学模拟,才得以用比以往快70%的速度来开发新一代赛车,并将赛车压力损失从50%降低到15%。这就意味着车主在驾驶时可以更容易地进行超车,给车迷带来更精彩的赛场缠斗。

其次,亚马逊云科技通过各种丰富的计算网络存储(可按需选择或者直接帮你智能分级)以及产品组合(超600种不同计算实例)来帮助用户应对突发的算力需求,实现高度弹性化的计算资源供给。

以维塔数码云上工作室为例,它曾获得6次奥斯卡最佳特效奖,作品包括《阿凡达》《指环王》《猩球崛起》等。由于亚马逊云科技提供的基础架构算力资源、云上制作堆栈和机器学习堆栈等一系列服务,该工作室只用了8个月就完成了高达33亿渲染线程小时的《阿凡达2》云上特效制作;反观《阿凡达1》,“当初用了整整14个月才看到了第一帧”。

最后,亚马逊云科技还通过Serverless技术来简化云上运维管理,帮助游戏公司朝夕光年专注于游戏《Marvel Snap》本身的开发,而不用担心访问量剧烈增加时的系统升级和扩容工作。陈晓建介绍,该游戏最终启动后没有发生一个后端错误事件,在游戏行业闻所未闻。

除了算力资源,许多企业在如今的全球化大趋势下也有三大诉求:所有业务实现云上统一管理并保证高可靠和低延迟、搭建组网的过程要既快速且高效、以及能否符合当地的法规要求,保障业务顺利出海。

以OPPO为例,他们的手机业务遍布全球,存在上百的云上VPC和本地资源需要连接,非常考验全球组网难度。而依托亚马逊云科技的Amazon Cloud WAN服务,只需分分钟便快速搭建好了一个全球网络,它既能保持OPPO的全球业务独立运作、区域合规自治,同时又能进行统一管理。

其次,对于网络可靠性、延迟性要求非常高的资本交易市场纳斯达克,亚马逊云科技则凭借Amazon Outposts服务帮它建成了资本市场行业有史以来的第一个私有本地区域,并实现超低延迟的边缘计算功能。

最后,全球电子支付终端供应商Pax,也依靠亚马逊云科技的Amazon CloudHSM、Amazon Security Hub等一系列服务,满足了多个供应商提供的安全服务标准,保障用户支付安全,并使交付周期缩短了40%,成本降低20%,实现国际业务顺利拓展。

以上这些成功的合作案例,都很好地说明了亚马逊云科技在帮助企业摆脱基础架构限制、专注于创新上的成效。

 

坚持“给底座造底座”

事实上,对于这波生成式AI浪潮,早在4月份,亚马逊云科技就向公众表明了自己的定位:人人都去卷大模型本身,我们要给底座造底座。

如今两位高管在亚马逊云科技中国峰会上的演讲,再一次释放了同样的信息:为大众开发生成式AI应用做基础支持、做底座支撑。

bbec2bfc408e4e66a59ade26df7a4ccb.png

 

怎么理解“底座”这个概念?

可以快速获得世界最先进基础模型能力的全托管平台Amazon Bedrock,是底座;用于训练和运行自家模型的高性能基础设施,如Amazon Inferentia芯片支持的Amazon EC2 Inf1实例、Amazon Trainium支持的Amazon EC2 Trn1实例以及英伟达H100 Tensor Core GPU支持的Amazon EC2 P5实例,是底座;从头构建、训练和部署自己的模型的Amazon SageMaker,是底座;支持一键式部署和150多种流行开源模型微调的Amazon SageMaker Jumpstart,更是底座;它们都是服务于我们的大模型、服务于生成式AI应用开发的基础工具,作为底座,目的就是降低使用门槛,把大模型和生成式AI技术变成一种即取即用的资源,让更多企业、组织和个人触及。

亚马逊云科技拥有超过25年的AI经验,并有超过10万名客户使用亚马逊云科技的AI和机器学习服务助力自己的业务。

 

而在这场洪流之中,得益于亚马逊云科技这样的底座服务的存在,让每个企业、每个人都有机会去获得、利用和享受新技术带来的福利。没有人会在这场变革之中被主动落下,尚不均匀的分布终将得到改善、若隐若现的未来也会变得异常清晰。

 

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/723941.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

软件测试外包

目录 前言: 评估软件测试服务提供商 为什么将测试外包出去 测试服务外包应当考虑因素 参与模式 地理位置 服务协议 灵活性 质量改进 如何选择测试外包服务商 需要什么外包 调查 互动 结论 前言: 在当今的软件开发行业中,越来越…

k8s Volume之Persistent Volume持久卷

一、Persistent Volume yaml详情: kind: PersistentVolume apiVersion: v1 metadata:# PV卷名称name: nfs-mvn-repo spec:# 容量capacity:# 存储大小storage: 20Ginfs:server: 192.168.80.170path: /srv/nfs/disk/mvn-repo# 该卷支持的访问模式accessModes:- ReadW…

SPEC CPU 2006 在 CentOS 5.0 x86_64 古老系统测试【2】

上一篇 SPEC CPU 2006 在 CentOS 5.0 x86_64 古老系统测试_hkNaruto的博客-CSDN博客 虚拟机时间,一天后获得结果 由于ssh版本太低,采用nc把文件拷贝出来 结果 SPEC CFP2006 Result Copyright 2006-2023 Standard Performance Evaluation Corporatio…

MES系统

MES系统,全称制造执行系统(Manufacturing Execution System),是一种用于实时监控、追踪和控制生产过程的计算机化系统。 SAP Fiori概览 相信工作中接触过SAP的人,肯定对SAP Fiori不陌生。那什么是SAP Fiori呢? SAP Fiori是一种用于…

基于STM32单片机的智能视力保护台灯设计

硬件方案 智能台灯以专门感应人体红外信号的红外传感器为基础,这意味着仅当有人的时候,红外传感器才输出一个信号,经放大处理后达到单片机的输入门限电压,单片机开始运行,台灯自动点亮。当人离开的时候,单…

CSRF漏洞

前言 作者简介:不知名白帽,网络安全学习者。 博客主页:不知名白帽的博客_CSDN博客-网络安全,CTF,内网渗透领域博主 网络安全交流社区:https://bbs.csdn.net/forums/angluoanquan 目录 CSRF漏洞原理 CSRF常见分类 GET型 POST型…

GIT版本控制常规性操作演示汇总

文章目录 GIT基本操作GIT配置个人信息配置:GIT查看个人信息配置:GIT的三大区域GIT回滚:git resetGIT恢复日志:git reflogGIT三大区域转换GIT新建分支GIT合并分支GIT删除分支码云上创建项目GIT变基:git rebase合并提交记…

轮询-实时调用接口

https://www.cnblogs.com/zhangliang88/p/16254460.htmlhttps://www.cnblogs.com/zhangliang88/p/16254460.html

软件测试 | Selenium对多浏览器处理

在执行自动化测试过程中,我们往往会针对不同的浏览器做兼容性测试,可以通过对测试用例代码的改造,实现对不同浏览器的自动化兼容性测试。 注:实现对不同浏览器的自动化兼容性测试,需要先将各个浏览器的驱动在PC端配置…

基于PyQt5的桌面图像调试仿真平台开发(15)图像融合

系列文章目录 基于PyQt5的桌面图像调试仿真平台开发(1)环境搭建 基于PyQt5的桌面图像调试仿真平台开发(2)UI设计和控件绑定 基于PyQt5的桌面图像调试仿真平台开发(3)黑电平处理 基于PyQt5的桌面图像调试仿真平台开发(4)白平衡处理 基于PyQt5的桌面图像调试仿真平台开发(5)…

AMEYA360:尼得科nidec恩布拉科变频压缩机介绍

能源安全、能源价格方面的挑战与气候危机交织 提高能源效率比以往任何时候都更为紧迫。 能源效率是应对当今全球能源危机的核心 也是能源价值创造的重要体现。 尼得科恩布拉科大金 带来制冷方面的节能研究 LMSEY系列冷库一体机使用变频调速可 节能约14%! 全球制冷技术供应商、尼…

浅谈配电能效平台在城市地下综合管廊的应用

摘要:电气设计是综合管廊设计的重要组成部分,文章对综合管廊的断面设计、供配电系统和缆线设计进行了分析阐述,并结合设计案例,简要总结了综合管廊电气设计要点。 关键词:综合管廊;断面设计;供配电系统;缆…

微信小程序如何进行开发?

文章目录 0.引言1.注册微信公众平台账号2.准备微信开发者工具3.创建微信小程序并预览 0.引言 笔者编程一般编得较多的是桌面软件,有时也会编手机软件,这些软件都必须安装才能使用,这限制了软件的推广。而现有社交软件如微信使用得较广泛&…

使用GitHub Actions 来进行项目远程服务器部署

由于项目源码是托管在github的,而部署是放在远程服务器上,并且使用nginx部署。 现在的部署流程时,需要更新时,在本地切换到master分支,执行构建操作,拿到构建出的dist目录,将其上传到远程服务的…

从GitLab拉取并运行项目

从GitLab拉取并运行项目 序Git项目运行运行报错 总结教训 序 搭建好前端基础环境后,开始尝试从单位项目组拉取项目尝试本地运行。 Git Git相关配置:一篇学会Git版本管理 先申请Git账号,随后由上级分配权限拉入该项目组。 通过git clone ……

年终奖大幅缩水,是去还是留?

一、年终奖的历史和意义 互联网行业是中国经济发展的一个重要支柱,这也使得互联网公司的年终奖一直是许多从业者最为关注的话题之一。随着行业的不断发展,互联网公司的年终奖也在不断提高,逐渐成为了企业吸引和留住人才的重要手段。在互联网…

基于archlinux的mabox-linux桌面系统,内存资源消耗只有278M!

今天安装了基于archlinux的mabox-linux桌面系统,内存资源消耗只有278M!实在是惊到我了。先上图,改天有空再深入体验一下。 安装后发现没有1920X1080这个分辨率,设置的命令如下: 一,xrandr #查看本机支持的…

短期面试突击攻略大全!2023最全Java面试题目合集

这两年的面试难度确实要比往年高处很多。很多小伙伴投递了上千份简历,只有几家公司约面试。排除个人简历的因素,这在往年都是不太常见的。 大厂缩招,于是很多往年能进大厂的人只能去卷中小厂,搞得层层内卷。 比如往年能有一万个人…

旅游卡分销小程序开发

旅游业的不断发展,旅游卡分销小程序成为了越来越多旅游公司的选择。旅游卡分销小程序是一种在线分销平台,它允许游客购买旅游卡并分销给其他人,从而获得佣金。本文将探讨旅游卡分销小程序的开发。 一、确定旅游卡分销小程序的需求 在…

低代码平台能友好的融入到toB项目中吗?

低代码平台通常可以友好地融入现有toB的交付项目中。虽然低代码平台和传统的高代码开发具有不同的开发方式和工具集,但它们可以在同一个项目中协同工作,互相补充,那么实现能配置的尽可能配置化,配置不出来的就手写。 对于普通IT项…