re:Invent2023大会隆重推出自研芯片Graviton4和Trainium2

news2024/10/7 10:15:47

目录

一、前言

二、体验Graviton系列产品

(一)创建普通的EC2实例

(二)创建Graviton处理器的EC2实例

(三)远程到服务器

方式1:创建成功时连接

方式2:SSH客户端

方式3:正确的方式

(四)配置安全组(防火墙)

(五)安装Docker

三、Graviton系列历史

四、总结


一、前言

北京时间2023年11月28日亚马逊云科技re:Invent大会盛大开幕。亚马逊云科技首席执行官Adam Selipsky在re:Invent大会的第二天,Adam Selipsky重分别围绕着云基础架构、计算、存储、生成式AI等方向

(1)发布了高性能、低延迟的对象存储服务 —— Amazon S3 Express One Zone;

(2)发布了全新一代 Graviton 处理器 —— Amazon Graviton4;

(3)发布了首个基于 Graviton4 的实例 R8g Instances for EC2;

(4)发布了全新一代 Amazon Trainium2 芯片;

(5)发布了Amazon Bedrock 全新功能,包括模型的微调、检索增强生成(RAG)以及基于 Amazon Titan 大模型的预训练;

(6)正式推出 Agents for Amazon Bedrock;Guardrails for Amazon Bedrock;

(7)发布了企业生成式 AI 助手 Amazon Q;

(8)宣布了亚马逊云科技与 Anthropic 深化合作关系;

(9)宣布了亚马逊云科技成为首家推出 NVIDIA GH200 NVL32 实例的云厂商;

由于总体内容太多,本文重点围绕着亚马逊云科技新发布的全新一代 Graviton 处理器 ——Amazon Graviton4来揭开它的神秘面纱。

二、体验Graviton系列产品

直达链接:AWS Graviton 处理器-高性价比的云工作负载-AWS云服务

如果你运气比较好的话,打开该链接,可以免费体验一把:

下图是一个了解亚马逊云科技Graviton处理器的好方式:

(一)创建普通的EC2实例

点击黄色的按钮:开始使用基于Graviton EC2实例

然后会跳转到EC2的控制台:

点击启动实例:

下拉可以查看免费的套餐:

如果没有密钥对的话,可以创建一个:

点击创建新密钥对即可创建:

创建成功后会立马下载:

网络配置:

存储配置:

然后点击右侧的启动实例:

很快就会成功,并且弹出下面的成功界面:

(二)创建Graviton处理器的EC2实例

需要注意的是:在架构中,我们需要选择64位(ARM)架构:

然后才能选择t4g.small实例类型:

如果你选择了非ARM架构,就会提示如下错误:

密钥对选择刚才创建的就行:

安全组也可以选择上面使用的:

配置随便选一个:

准备就绪后,点击启动实例

很快可以看到成功的提示:

可以看到本次的IP就变化了,因为这是另一台。

(三)远程到服务器

方式1:创建成功时连接

我们可以立马链接到实例:(为了防止当前的界面跳转走,你可以右击在新窗口打开)

打开后,弹出链接提示界面:

然后就可以远程成功了:

方式2:SSH客户端

可以选择SSH客户端瞧瞧

如果你是windows用户,在你下载的目录地址栏中,可以输入cmd,然后回车,即可打开一个命令行

然后把提示的示例的ssh远程登录的命令粘贴进来,即可远程:

方式3:正确的方式

我相信,每个人都会遇到找不到的时候,亚马逊云科技的这个控制台还是很人性化的:

如下图所示,可以看到里面存在1个正在运行的实例,点开:

在打开的控制台,可以看到你拥有的服务器:

可以看到自己的公网IP,公网DNS,公网DNS的存在,让你节省一个域名;

点击实例ID:

点击右上角的连接按钮

然后会重新打开:

现在就不怕忘记了。

(四)配置安全组(防火墙)

可以解析看一下,DNS域名和我的公网IP是相互绑定的:

如果你ping一下,会发现:

1、域名ping不通

2、甚至IP也ping不通

原因是因为防火墙,默认创建好服务时并不会打开所有的端口,ping的数据报被屏蔽了:

点击安全组的名字可以进入编辑安全规则(防火墙规则):

a.选择要编辑的安全组:

b.在此界面可以编辑入站和出站的规则;

添加一条ICMP的规则:

保存好,再回到刚才的界面,刷新后,就可以看到ICMP的安全组信息:

然后就通了

(五)安装Docker

curl -fsSL https://test.docker.com -o test-docker.shsudo sh test-docker.sh

从安装上面未看出有什么差别,使用起来也没觉得有什么不同,上手也比较快。

三、Graviton系列历史

2018年:Graviton1发布

亚马逊云科技首次推出基于ARM架构的Graviton实例,这些实例使用Graviton1处理器,该处理器基于ARM Cortex-A72架构。这一举措旨在提供一种更具成本效益的云计算选择,特别是适用于特定工作负载的场景,如Web服务器、容器等。

2019年:Graviton2发布

亚马逊云科技发布了Graviton2处理器,它是一种自家设计的处理器,基于ARM Neoverse N1架构。Graviton2带来了性能的显著提升和更高的能效比。这一处理器的发布标志着亚马逊云科技对ARM架构的投资,以提供更强大、更高性能且更高成本效益的云计算实例。

2021年:Graviton3发布

时隔两年,亚马逊云科技发布了Graviton3处理器,Graviton 3比Graviton 2快了25%,与科学计算和媒体编码有关的浮点运算性能翻了1倍,加密工作负载运算速度提升高达2倍,支持bfloat16。

2023年:Graviton4发布

时隔两年,相比 Graviton3,它的核心多出50%,内存带宽提升75%,Graviton4 芯片速度较 Graviton3 提升30%,对于数据库和 Java 应用等关键工作负载方面实现了更显著的性能提升,分别提升了40%和45%。

同时发布了首个基于 Graviton4 的实例 R8g Instances for EC2,R8g 是第一个基于 Graviton4 的实例,今天可提供预览。R8g 作为内存优化型实例,能够更好地支持大规模数据库、实时大数据分析等应用,可提供最佳的价格性能,且减少能源消耗。

亚马逊云科技最新的内存优化型Amazon EC2 R8g实例将支持Graviton4处理器,让客户能够大规模改进高性能数据库、内存缓存和大数据分析工作负载的运行。R8g实例将提供比当前R7g实例多3倍的大容量虚拟CPU和3倍的内存。Amazon表示,新的R8g实例目前已推出预览版,计划在未来几个月内全面上市。现在为几个月后的实战做好充足的准备。

、总结

问你个问题:“亚马逊是一家什么公司?”。

关注过亚马逊历史的人可能知道二十六年前亚马逊是一卖书的公司,十六年前亚马逊是一电商公司。 自2002年亚马逊内部开始为其电子商务模块使用内部分布式计算资源。2006年亚马逊开始考虑云计算战略布局,正式成立亚马逊云科技,开始提供计算、存储、数据库、人工智能、以及机器学习等服务。

通过本届大会可以看出,亚马逊云科技在自研芯片领域的付出。虽然网络上平时对亚马逊云科技的自研芯片爆料比较少,但从2018年首次推出Graviton1芯片,到如今已经推出了4版Graviton芯片,每一代芯片都带来了显著的性能提升和能效改进,而每一次的升级迭代都标志着一座新里程碑的出现展现了亚马逊云科技在硬件领域的雄厚实力。这不仅为用户提供了更多选择,在一定程度上推动了整个行业的蓬勃发展。

通过在线参与本届大会,我深入了解了Graviton4芯片及其在云计算领域的应用。亚马逊云科技对于自研芯片的不懈追求以及Graviton4的发布,都展示了公司在技术创新方面的领先地位。我对于Graviton4的性能提升以及新推出的R8g实例的内存优化表示期待,这将为用户提供更好的云计算体验。

伴随着云计算技术的不断发展,我期待看到更多创新的硬件和服务涌现。面向未来,亚马逊云科技有望继续引领行业发展,为用户提供更多高性能、低成本的云计算解决方案。作为技术爱好者,我也将继续关注云计算领域的最新动态,不断学习和应用新技术,为个人和团队的项目带来更多可能性。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1319810.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

airpods 无法使用Windows电脑充电的解决方法

打开设置 -> 蓝牙与其他设备 -> 显示更多设备 往下翻,找到“更多设备与打印机设置”,打开设备界面: 打开" Airpods Case",找到“硬件”选项 -> 双击"符合HID标准的供应商定义设备" -> “驱动程序…

Markdown(轻量级标记语言)基本语法教程

学习总是避免不了记笔记,除了在线的记录一些博客外,也会需要一些不方便在线记录的线下笔记,那么找到一个好用方便的适合记录代码的工具,就很重要,这里给大家分享一下Markdown基本语法,可以很简单的达成我们…

GPT-4.5!!!

GPT-4 还没用明白,GPT-4.5 就要发布了。 最近,OpenAI 泄露了 GPT-4.5 的发布页面,除了进一步增强复杂推理和跨模态理解,GPT-4.5 增加了一个更加强大的功能——3D。 3D 功能的进一步支持,也就意味着多模态最后一块版图…

Java21新特性-虚拟线程

虚拟线程是轻量级线程(类似于 Go 中的 “协程(Goroutine)”),可以减少编写、维护和调度高吞吐量并发应用程序的工作量。 线程是可供调度的最小处理单元,它与其他类似的处理单元并发运行,并且在…

设计模式——责任链模式(行为模式)

引言 责任链模式是一种行为设计模式, 允许你将请求沿着处理者链进行发送。 收到请求后, 每个处理者均可对请求进行处理, 或将其传递给链上的下个处理者。 问题 假如你正在开发一个在线订购系统。 你希望对系统访问进行限制, 只允…

Rsyslog 8.1901.0 配置Tls模式加密传输log

需求背景:客户需要配置Tls加密模式上传log,老虎动手来搞搞, 推荐看下面的技术文档,官方的没有下面这个好用 https://rsyslog.readthedocs.io/en/latest/tutorials/tls_cert_summary.html 我们可以在github上下载官方文档编译后查看…

OCC 创建简单几何

使用 OCC 创建 正方体和圆柱体&#xff0c;并且通过布尔运算&#xff0c;切除正方体内的圆柱体&#xff0c;保存 stl 几何模型。 #include <iostream> #include <iomanip> #include "BRepPrimAPI_MakeCylinder.hxx" #include "BRepPrimAPI_MakeBox…

Elasticsearch的批量bulk 提交 写入的方式会有顺序问题吗?

Elasticsearch的分布式特性可能会导致写入操作的执行顺序与提交顺序稍有不同。在分布式环境中,Elasticsearch将数据分散到不同的节点上进行存储和处理,因此写入操作的执行顺序可能会受到网络延迟、负载均衡等因素的影响。 根源在于ES的分布式架构。如上图所示,客户端的命令首…

C++学习笔记(十五)

继承 继承是面向对象三大特性之一 有些类与类之间存在特殊的关系&#xff0c;例如下图中&#xff1a; 我们发现&#xff0c;定义这些类时&#xff0c;下级别的成员除了拥有上一级的共性&#xff0c;还有自己的特性。 这个时候我们就可以考虑利用继承的技术&#xff0c;减少重…

自动封箱打包码垛缠绕流水线案例

广西交投在某地新建工厂后&#xff0c;需要建设一条生产隧道灯&#xff0c;后段自动封箱打包码垛缠绕包装线。 凯隆包装在深入了解客户需求后&#xff0c;结合客户实际生产情况&#xff0c;为客户量身定制了集智能感应系统、产品自动折盖上下封箱、捆扎两道打包带、码垛机械臂自…

windows如何环境搭建属于自己的Zblog博客并发布上线公网访问?

文章目录 1. 前言2. Z-blog网站搭建2.1 XAMPP环境设置2.2 Z-blog安装2.3 Z-blog网页测试2.4 Cpolar安装和注册 3. 本地网页发布3.1. Cpolar云端设置3.2 Cpolar本地设置 4. 公网访问测试5. 结语 1. 前言 想要成为一个合格的技术宅或程序员&#xff0c;自己搭建网站制作网页是绕…

2024上半年软考别轻易尝试!先了未发布

最近几年&#xff0c;软件考试变得非常受欢迎&#xff01;不论你的专业、学历或工作时间如何&#xff0c;你都可以报名参加&#xff0c;而且通过考试取得证书还能用来抵扣个人所得税、评职称、帮助落户和参与招投标等等。 身边的朋友们纷纷参加软考&#xff0c;这让我也产生了…

自由撰稿人如何快速记录灵感?随手记录灵感素材的电子记事本

随着互联网的发展&#xff0c;催生了很多新的职业&#xff0c;其中“自由撰稿人”就是很多年轻人正在做的工作。而对于自由撰稿人来说&#xff0c;灵感是创作的源泉。然而&#xff0c;灵感往往稍纵即逝&#xff0c;如何快速记录下来&#xff0c;成为了我们面临的一大挑战。 那…

云原生基础入门概念

文章目录 发现宝藏云原生的概念云原生的关键技术为何选择云原生&#xff1f;云原生的实际应用好书推荐 发现宝藏 前些天发现了一个巨牛的人工智能学习网站&#xff0c;通俗易懂&#xff0c;风趣幽默&#xff0c;忍不住分享一下给大家。【宝藏入口】。 云原生的概念 当谈及现…

Linux下Netty实现高性能UDP服务

前言 近期笔者基于Netty接收UDP报文进行业务数据统计的功能&#xff0c;因为Netty默认情况下处理UDP收包只能由一个线程负责&#xff0c;无法像TCP协议那种基于主从reactor模型实现多线程监听端口&#xff0c;所以笔者查阅网上资料查看是否有什么方式可以接收UDP收包的性能瓶颈…

虹科干货 | 克服端口顺序影响,使用 PCAN实现固定设备ID/通道分配

导读&#xff1a;多设备协同工作是常见的需求。然而&#xff0c;适配器的插入顺序可能会影响到设备的识别和访问&#xff0c;给系统管理带来不便。虹科PCAN能够进行固定设备ID/通道分配&#xff0c;确保设备不受适配器插入顺序的影响&#xff0c;提高系统的稳定性和可靠性。本文…

台积电大幅上调产能,12英寸晶圆产能提至每月5.5万片 | 百能云芯

台积电熊本新厂势如破竹&#xff0c;产能将迎来大幅提升&#xff0c;计划逐步达到每月5.5万片的12英寸晶圆产能。据了解&#xff0c;新厂的扩产计划将从2024年第4季开始实施。此次的战略举措不仅是对海外市场布局的重大突破&#xff0c;更是对日本半导体产业生态系统的积极推动…

TikTok矩阵玩法分享,如何建立TikTok矩阵?

矩阵是在 TikTok 上非常常见的营销方式&#xff0c;很多卖家想要通过矩阵化运营快速涨粉。但要想做好TikTok矩阵&#xff0c;需要有明确的方向和计划。下面东哥我将分享一些做TikTok矩阵的玩法&#xff0c;帮助大家更好地搭建自己的TikTok矩阵。 了解TikTok矩阵 TikTok矩阵是一…

深度学习笔记_6经典预训练网络LeNet-18解决FashionMNIST数据集

1、 调用模型库&#xff0c;定义参数&#xff0c;做数据预处理 import numpy as np import torch from torchvision.datasets import FashionMNIST import torchvision.transforms as transforms from torch.utils.data import DataLoader import torch.nn.functional as F im…

眼镜正确清洗方式有哪些?超声波眼镜清洗机推荐

随着人们对健康的重视&#xff0c;眼镜已经成为了日常生活中的必需品。然而&#xff0c;眼镜的清洗却常常被忽视。正确的清洗方式不仅可以保护眼睛健康&#xff0c;还可以延长眼镜的使用寿命。那么&#xff0c;眼镜的正确清洗方式有哪些呢&#xff1f;经常去眼镜店清洗眼镜的朋…