高算力AI模组前沿应用:基于ARM架构的SoC阵列式服务器

news2024/11/16 12:07:56

本期我们带来高算力AI模组前沿应用,基于ARM架构的SoC阵列式服务器相关内容。澎湃算力、创新架构、异构计算,有望成为未来信息化社会的智能算力底座。

▌性能优势+AI驱动,ARM架构服务器加速渗透

一直以来,基于ARM架构的各类处理器芯片,以其低功耗、高效能、高可靠性、成本优势等综合特性,广泛应用于手机、平板电脑、物联网终端设备等各类通信及电子产品领域,极大推动了人类社会的信息化和智能化进程。

Nipic_17961491_20161224132752988000.jpg

而在服务器领域,之前一直是基于X86架构的产品占据主导,近年来,随着下游对于异构算力、智能算力需求的不断增长,以及类似于云游戏等安卓原生态应用的大规模兴起,越来越多的厂商开始将ARM架构应用于服务器领域,并推出了一系列相关产品。

去年以来,在智能算力需求的不断增长,以及生成式AI对于异构算力的庞大需求,ARM架构服务器在云游戏、数字人等新兴应用市场展现出独特优势,而对于传统服务器领域的渗透,也有加速的迹象。

ARM架构服务器的特点:

一、低功耗:ARM架构具有低功耗优势,其采用的处理器芯片,与传统X86架构芯片相比功耗更低,且具有更高的能效比,在IDC架构中集成ARM服务器,可以降低电费支出、节约能源消耗。

二、高效能:ARM架构具有更好的多核线程驱动性能,能够实现更好的并行处理和任务处理能力。

三、成本低:ARM架构处理器芯片,较X86架构芯片的制造成本更低,ARM架构服务器价格具有极高性价比,且开发成本更低。

四、高可靠性:具有更好的故障容忍性,可以提供更高的可靠性和稳定性。

017cb75b17914ea801202e602932e1.webp.jpg

据了解,亚马逊、浪潮、腾讯、百度、阿里等头部企业,都推出了基于ARM架构的服务器产品,因其低功耗、高性价比、高效能等优势、在云计算、物联网、智能交通、医疗健康等领域有广泛应用。

据TrendForce集邦咨询研究显示,近年企业对于人工智能、高效能运算等数字转型需求加速,带动云端采用比例增加,全球主要云端服务业者为提升服务弹性,陆续导入ARM架构服务器,预期至2025年ARM架构在数据中心服务器渗透率将达22%

▌基于ARM架构的SoC阵列式服务器,智能算力领域的新兴力量

以ARM架构为基础,创新性的采用SoC芯片作为算力来源,以灵活的阵列式架构打造的SoC阵列式服务器,也逐步进入企业级IDC以及各类边缘计算场景。这是一种专门针对企业级数据中心和边缘场景面临的空间制约和节能要求而优化设计的高密服务器,以高能效比、高性价比、高密度为设计原则,在一个机架式机箱内集成多达40路、60路、80路等针对服务器场景专门定制的高算力模组或者算力板,可为各类行业客户构建适低成本、高密度、高并发、高性能的算力集群。

Nipic_7259105_20180208084441760966.jpg

服务器内布置的每个算力模组或者算力板都是一个可以独立运行的最小系统,包含CPU、GPU、NPU、存储、网络等。相关SoC阵列式服务器可根据客户需求、定制多种算力节点、其内部采用模块化及热插拔设计,可以实现不停机维护。在通信方面配置了10G/25G交换节点,支持SDN自动化网络部署,并且内置了多维智能管理节点,可以进行全方位远程运维工作,有效减低运维成本。

01d6ef61baad1411013e8cd0ad0ada.jpg

以云游戏场景为例,随着《原神》、《崩坏》等爆款游戏的全球风靡,除了游戏运行向移动端转移外,也极大带动了云游戏市场的迅速扩展。而传统的通用型服务器,在支撑云游戏运行上,存在兼容性差、成本高昂等问题,而ARM架构的阵列式服务器,基于对安卓生态天然的兼容性,避免了服务器端到应用端的软件架构转换以及转换过程中的性能损耗,近年来在云游戏场景,几乎占据主导地位,目前正逐步向数字人、工业视觉、边缘AI、云XR渲染等领域拓展。

▌美格高算力AI模组,为SoC阵列式服务器提供澎湃算力

美格智能作为行业内最早推出高算力AI模组产品的企业,也不断推动AI模组产品在服务器、机器人、AI零售、无人机、云游戏、数字人、云桌面、云教育、工业AI检测、云XR等各领域的深度应用,从而真正让产品的AI能力能够助力行业。

美格智能助力客户定制推出SoC阵列服务器产品,集成了CPU+GPU+NPU+TPU复合异构算力集群,可以构建大规模智能算力矩阵;每个算力节点采用刀片+阵列式设计,支持热插拔,轻松维护;整机80GB带宽,每个板卡满负载1GB带宽;内置BMC多功能综合监控可视化管理系统,可轻松远程管理。

13.jpg

▲内置美格智能高算力AI模组SNM970的阵列式服务器终端

该SoC阵列式服务器,采用美格智能为其专门定制的高算力AI模组SNM970,基于高通 QCS8550(8 Gen2)研发,支持16GB LPDDR5X + 256GB UFS 4.0内存,服务器中最高可配置80路高算力AI模组,单颗模组内部支持Android虚拟化,可虚拟出多路计算单元(如80路模组服务器,单颗模组根据下游算力需求,可以虚拟出多路虚拟机,比如虚拟出4路的情况下则可同时支撑320台诸如手机等终端同时运行云游戏),更好的进行算力配置,充分发挥了高算力、高性价比、高能效比的优势,为实时互动云计算、边缘AI云计算、云渲染等业务场景提供最佳算力底座。

01..jpg

随着各行各业对于算力需求的爆发式增长,以及新兴应用场景对于创新型服务器的迫切需求,美格智能也将加大力度推动高算力AI模组在服务器领域的深度应用。

目前,美格智能团队已经与行业领先的SoC阵列式服务器客户密切协作,陆续打造出了针对SoC阵列式服务器场景,基于高通骁龙865/SM8475/QCS8550三代SoC芯片的深度定制的算力模组,同时做到封装兼容,更好助力客户产品的算力提升和产品迭代,为相关产品后续在AIGC领域的应用推广,以及向传统服务器市场的渗透,提供更好助力。

中国电信终端产业协会于2023年4月26日发布了《基于ARM架构的SoC阵列服务器技术规范》,以团体标准的形式明确了ARM架构SoC阵列式服务器的通用技术要求,国内相关厂商也在为下一代服务器的产品标准在开始探讨,相关产品将逐步进入发展快车道。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/798127.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

Tooltip文字提示(antd-design组件库)简单使用

1.Tooltip文字提示 简单的文字提示气泡框。 2.何时使用 鼠标移入则显示提示,移出消失,气泡浮层不承载复杂文本和操作。 可用来代替系统默认的 title 提示,提供一个 按钮/文字/操作 的文案解释。 组件代码来自: 文字提示 Tooltip -…

读写分离案例、Mysql主从复制 步骤

在开发大型应用程序时,数据库的性能通常是一个关键问题。读写分离是一种常见的数据库优化技术,可以显著提升数据库的读取操作性能。本文将介绍MySQL主从复制和一个读写分离案例。 1、MySQL主从复制 主从复制是MySQL数据库提供的一种数据复制机制&#…

免费商城搭建、免费小程序商城搭建、之java商城 电子商务Spring Cloud+Spring Boot+mybatis+MQ+VR全景+b2b2c

1. 涉及平台 平台管理、商家端(PC端、手机端)、买家平台(H5/公众号、小程序、APP端(IOS/Android)、微服务平台(业务服务) 2. 核心架构 Spring Cloud、Spring Boot、Mybatis、Redis 3. 前端框架…

【黑马头条之内容安全第三方接口】

本笔记内容为黑马头条项目的文本-图片内容审核接口部分 目录 一、概述 二、准备工作 三、文本内容审核接口 四、图片审核接口 五、项目集成 一、概述 内容安全是识别服务,支持对图片、视频、文本、语音等对象进行多样化场景检测,有效降低内容违规风…

vue+ivew model框 select校验遇到的问题

iview model 点击关闭&#xff0c;校验没有通过也会关闭 解决办法&#xff1a; 第一步&#xff1a;自定义页脚内容 <div slot"footer"><Button type"primary" click"confirmCarryOver()">确认</Button><Button click&qu…

python绘制3D条形图

文章目录 数据导入三维条形图bar3d 数据导入 尽管在matplotlib支持在一个坐标系中绘制多组条形图&#xff0c;效果如下 其中&#xff0c;蓝色表示中国&#xff0c;橘色表示美国&#xff0c;绿色表示欧盟。从这个图就可以非常直观地看出&#xff0c;三者自2018到2022年的GDP变化…

智能制造:开启工业新纪元

随着科技的不断发展和人工智能的日益成熟&#xff0c;智能制造正成为当今工业界的热门话题。智能制造是一种以先进技术为支撑&#xff0c;通过数字化、网络化、智能化手段来提升生产效率、优化生产流程的现代化制造模式。 在智能制造中&#xff0c;物联网、大数据、云计算、人工…

OR-Tools工具安装(Python-Vs code)-自用

安装&#xff08;已安装python以及Vs code&#xff09; pip安装 python -m pip install --user ortools安装完成示意如下&#xff1a; 验证安装 python -c "import ortools; print(ortools.__version__)"输出结果为版本号

【Spring框架】@Resource注入以及与@Autowired的区别

目录 使用Resource设置name的方式来重命名注入的对象区别 使用Resource设置name的方式来重命名注入的对象 package com;import org.springframework.context.ApplicationContext; import org.springframework.context.support.ClassPathXmlApplicationContext; import org.spr…

Ansible自动化运维工具

Ansible是一个基于Python开发的配置管理和应用部署工具&#xff0c;现在也在自动化管理领域大放异彩。它融合了众多老牌运维工具的优点&#xff0c;Pubbet和Saltstack能实现的功能&#xff0c;Ansible基本上都可以实现。 Ansible能批量配置、部署、管理上千台主机。比如以前需要…

解读维达国际2023半年度财报:后续发力“高端、高利润、高质量”

随着国内直播电商市场的迅速发展&#xff0c;对于希望在国内市场取得成功的品牌来说&#xff0c;直播电商已经成为所有大众消费品牌的竞争关键。 以生活用纸品牌维达为例&#xff0c;截至2023年7月25日&#xff0c;据抖音平台直播动态显示&#xff0c;维达官方旗舰店今年上半年…

opencv-27 阈值处理 cv2.threshold()

怎么理解阈值处理? 阈值处理&#xff08;Thresholding&#xff09;是一种常用的图像处理技术&#xff0c;在机器学习和计算机视觉中经常被用于二值化图像或二分类任务。它基于设定一个阈值来将像素值进行分类&#xff0c;将像素值大于或小于阈值的部分分为两个不同的类别&…

geomesa-cassandra安装测试

环境&#xff1a;centos7、java8、cassandra3.0.29、geomesa-cassandra_2.12-3.5.2 配置Java环境&#xff1a; 安装配置cassandra: 下载cassandra&#xff1a; wget https://www.apache.org/dyn/closer.lua/cassandra/3.0.29/apache-cassandra-3.0.29-bin.tar.gz tar -xzf ap…

一文了解声音克隆软件的技术原理

声音克隆软件是一种可以对人声进行复制和模拟的软件。它的技术原理主要包括语音信号处理和合成声音的算法。 首先&#xff0c;声音克隆软件会通过麦克风或其他录音设备获取用户的原始语音信号。这个语音信号将被传输到计算机中&#xff0c;经过一系列的处理和分析。 在语音信号…

微信小程序自动化测试实战,支持录制回放、智能遍历

为了满足小程序性能、功能等方面的测试需求&#xff0c;微信团队上线 小程序云测服务&#xff0c;提供丰富的自动化测试能力。其中 智能化 Monkey 服务 凭借着零代码、低成本的优势吸引不少开发者使用。 在服务使用过程中&#xff0c;我们发现开发者有更多的进阶需求&#xff…

多个回路进行全电参量测量,实现基站内各回路用电能耗的集中管理-安科瑞黄安南

应用场景 可应用于基站的交直流配电箱及对基站内的动力设备进行数据采集和控制。 功能 1.对多个回路进行全电参量测量&#xff0c;实现基站内各回路用电能耗的集中管理&#xff1b; 2.丰富的DI/DO输入输出&#xff0c;NTC测温&#xff0c;温湿度测量等非电参量监测&#xff…

深入学习 redis - Stream、Geospatial、HyperLogLog、Bitmap、Bitfields 类型扩展

目录 前言 Stream geospatial HyperLogLog Bitmaps Bitfields 前言 redis 中最关键的五个数据类型 String、List、Hash、Set、Zset 应用最广泛&#xff0c;同时 redis 也推出了额外的 5 个数据类型&#xff0c;他们分别是针对特殊场景才进行的应用的. Ps&#xff1a;这几种…

HuggingGPT Solving AI Tasks with ChatGPT and its Friends in Hugging Face

总述 HuggingGPT 让LLM发挥向路由器一样的作用&#xff0c;让LLM来选择调用那个专业的模型来执行任务。HuggingGPT搭建LLM和专业AI模型的桥梁。Language is a generic interface for LLMs to connect AI models 四个阶段 Task Planning&#xff1a; 将复杂的任务分解。但是这里…

Python GUI设计 tkinter module

Python GUI设计 GUI 设计可以大大简化你的工作编代码最头疼的内容就是你不能以超快的速度获得你想要的结果 这是最头疼的尤其是你要调试的时候 tkinter module 中的属性与方法 创建窗口 root tkinter.Tk() root.title("GUI example") # 设置窗口标题 .pack pack方…

SOC FPGA之HPS模型设计(二)

根据SOC FPGA之HPS模型设计(一)&#xff0c; Quartus工程经过全编译后会产生Handoff文件夹、SOPCINFO文件、SVD文件 二、生成Preloader镜像文件 通过信息交换文件Handoff文件生成Preloader&#xff0c;需要用到SOC EDS Preloader也被称为spl(Second Program Loader)或u-boot…