简介
在AI迅猛发展的时代，芯片算力对于模型性能起到了至关重要的作用。一款能够同时兼具高性能和低成本的芯片，能够帮助开发者快速构建性能稳定的生成式AI应用，同时降低开发成本。今天小李哥将介绍亚马逊推出的4代高性能计算处理器Gravition，带大家了解如何利用Graviton芯片为Java生成式AI应用提高性能、优化成本。
本篇文章将介绍如何在云平台上创建Graviton芯片服务器，并在Graviton芯片服务器上安装Java应用，并对比Java应用在Graviton和Intel芯片服务器上的运行性能。在本系列下篇中，我们将利用Graviton芯片部署Java容器应用，比较不同芯片服务器上的容器应用性能，并查看、分析测试结果。
方案所需基础知识
什么是Graviton4代芯片？
Amazon Graviton 4 处理器由亚马逊云科技定制设计的第四代高性能、低功耗处理器，旨在为 Amazon 计算服务中的工作负载提供最佳性价比，相对于传统计算类工作负载（Graviton2）提供高达40%的性价比提升。与常见的 x86 处理器相比，基于 Graviton 4 的 EC2 实例具有以下特性：
- 每个 vCPU 独占一个物理核心的计算资源，而非通过 SMT 技术获得一个线程；
- 每个 vCPU 拥有更大的 L1/L2 Cache 容量；
- 更快的内存带宽和更低的内存延时。
- Graviton 处理器支持众多 Linux 操作系统，包括 Red Hat Enterprise Linux、SUSE 和 Ubuntu 等。
- Graviton 兼容众多云原生服务和开源软件，兼容亚马逊云科技上的开发工具，数据库，容器，分析，无服务器等服务，拥有丰富的应用生态。
最新发布的第 4 代 Graviton 处理器(基于 Arm Neoverse-V2，ARMv9.0-a)；主频提升，L2 缓存翻倍，L3 缓存容量提升，支持 SVE2； 内存：12*DDR5-5600(前代采用 8*DDR5-4800)，内存带宽提升 75%；
本实践包括的内容
1. 在亚马逊云科技上分别创建x86芯片以及Graviton4芯片的服务器
2. 在服务器中启动并运行java程序
3. 对比Java程序在两种芯片服务器上的运行性能
项目实操步骤
创建Graviton4芯片服务器
1. 首先我们进入亚马逊云科技控制台，进入EC2服务
2. 点击Launch Instance创建一台EC2服务器
3. 在芯片架构处，我们选择实例类型为r8g.xlarge（4vCPU和32GiB内存）实例用于创建Graviton4芯片服务器。另外我们还需要创建一个r6i.xlarge实例，实例用于创建Intel x86芯片服务器。
4.创建SSH登录秘钥对
5. 为密钥对命名，并选择pem类型，点击右下角创建。
6. 运行以下命令为密钥对授权，用于SSH登录服务器
chmod 400 test-only.pem7. 为EC2服务器添加VPC和子网配置
8. 选择配置防火墙安全组，在防火墙入站规则中添加允许SSH从0.0.0.0/0 IP范围访问
9.并选择服务器存储，我们选择gp3类型的80GiB的磁盘存储。
通过SSH连接进入服务器
10. 通过以下命令SSH登录到EC2服务器中，将创建好的EC2服务器IP地址替换到命令中“EC2实例公网 IP 地址”字段
ssh -i /path/key-pair-name.pem ec2-user@EC2实例公网 IP 地址开始部署Java应用程序
11. 通过 SSH 进入Graviton4芯片/intel芯片服务器，通过下面命令运行 Demo 程序。在下面的命令中我们安装了Java11版本，并设置系统语言可现实中文，下载Java应用的安装包和启动脚本，最后运行该程序。
## 安装 JDK
sudo su - root
yum install java-11-amazon-corretto -y
## 设置系统语言环境可显示中文
localedef -i zh_CN -f UTF-8 zh_CN.UTF-8
export LANG=zh_CN.UTF-8
export LC_CTYPE=zh_CN.UTF-8
## 下载 Demo 程序（Java 语言的 Jar 包）和运行脚本
wget https://github.com/eric-yq/ec2-test-suite/raw/main/blowfish-demo/unitTest-1.0-SNAPSHOT.jar
wget https://github.com/eric-yq/ec2-test-suite/raw/main/blowfish-demo/run.sh
## 运行脚本并等待实验完成, $(nproc) 表示 Demo 程序并行运行的数量和实例 vCPU 数相同。
bash run.sh $(nproc)12. 我们可以得到下方左侧的输出，显示程序启动在Graviton4服务器上总耗时为13.536秒，在Intel芯片上总耗时为15.198秒。
13. 我们重新配置Java应用程序的进程启动Demo数量（1-4，对应服务器的1-4个vCPU），分别记录启动1-4个Demo数量的对应启动时间，得到以下表格。
| ID | Demo 并行数 | CPU 利用率 | c7g.xlarge 平均完成时间 c7g.xlarge | c6i.xlarge 平均完成时间 |
|---|---|---|---|---|
| 1 | 1 | 25% | 12.8 | 11.0 |
| 2 | 2 | 50% | 12.8 | 11.4 |
| 3 | 3 | 75% | 13.1 | 13.4 |
| 4 | 4 | 100% | 13.5 | 15.2 |
14. 我们根据以上数据绘制折线趋势图，我们观察到对于相同大小的 X86 和 Graviton服务器，随着并行进程数量上升，在Demo并行数量大于2时，Graviton4芯片服务器的性能大幅上升，程序启动时间减少。
总结结论
15. 根据上述数据，我们可以得到以下结论：
- 本实验在相同大小（4 vCPU）的不同X86 和 Graviton4芯片实例，都可以顺利运行相同的Java程序，说明使用Java语言开发的程序无需任何修改即可直接在Graviton服务器上运行，Graviton的可移植性和兼容性都很好。
- Graviton实例的每个vCPU即为一个物理核心，X86实例的每个vCPU是一个物理核心通过 SMT技术虚拟出的一个超线程
- 当并行Java进程数目为1和 2（分别对应 CPU 利用率 25% 和 50%）时，X86服务器性能（单核）较好，完成时间较短。
- 当并行Java进程数目上升为 3 和 4 时（分别对应 CPU 利用率 75% 和 100%）时，X86 服务器性能衰减严重，应用启动时间大幅上升。与之行程对比的是，Graviton4服务器性能相对稳定，并明显优于 X86服务器。
以上就是利用亚马逊云科技自研Graviton4代芯片构建高性能、低成本的Java应用程序的上篇内容。欢迎大家关注小李哥和我的亚马逊云科技AI服务深入调研系列，不要错过未来更多国际前沿的AWS云开发/云架构方案。
