生成式AI数据中心网络来了,NVIDIA抢占加速计算高端市场

news2024/11/25 11:00:26

在大模型和生成式AI的大风口下,NVIDIA大力倡导并率先进军传统数据中心的高端市场——加速计算数据中心。自进入AI和大数据时代,业界就开始出现“加速计算”的概念。简单理解,加速计算即使用GPU、FPGA以及各种DPU等加速芯片以及相关的软件技术,对传统数据中心计算进行“加速”,以满足AI、大数据、边缘计算等特定计算场景的需求。

而自从2023年初大模型和生成式AI爆火后,加速计算在一夜之间迅速占领了业界“头条”,NVIDIA也在这一波市场热度中冲到了万亿美元市值,既赚足了全球科技产业的眼球,又赚得“盆满钵满”。为了进一步夯实加速计算,NVIDIA在前不久的COMPUTEX 2023上推出了全套的生成式AI数据中心方案,特别是全球首个专为生成式AI而构建的Spectrum-X以太网网络架构,意在创造一个全新的AI云高性能数据中心市场。

新推出的NVIDIA Spectrum-X网络平台是对现有数据中心网络的重塑,在以太网的基础上用NVIDIA BlueField-3 DPU进行网络和应用在主机端的加速,再加上NVIDIA Spectrum-4高性能以太网交换机,以及相应的软件,就可实现集群内的GPU-GPU高效通信,这样就能将成百上千台服务器连成一个大的集群,形成具有上千甚至上万张GPU卡的超大规模数据中心,以适应大模型训练的要求,这就是生成式AI数据中心。

此前,NVIDIA已经推出了NVLink Switch技术,已经发展到第四代,可以实现集群内跨服务器的GPU-GPU通信,最多可连接32台服务器、256张GPU卡,在COMPUTEX 2023上最新发布的DGX GH200超级计算机就是首次采用NVLink Switch技术构建的“巨型GPU”——将256个GH200 Grace Hopper芯片和144TB共享内存连接起来,构建成立了一个256个GPU的的共享内存平台。

NVIDIA正在以色列构建名为Israel-1的生成式AI云超级计算机,Israel-1由256台基于HGX的戴尔服务器构成,每台服务器配备8张GPU,也就是共有2048张GPU卡,同时配备了2560个BlueFiled-3 DPU和80多台Spectrum-4交换机,可达8 EFlop/s的峰值AI性能,将是全球性能排名靠前的AI超级计算机之一。

早在2020年,NVIDIA就完成了对以色列面向服务器和存储提供高性能连接解决方案的供应商迈络思(Mellanox)科技的收购,该收购高达70亿美元,NVIDIA也同时获得了千余名HPC高级人才。当然,Mellanox是坚定的InfiniBand技术的推动者,而InfiniBand是天然通过RDMA技术来进行远程GPU内存直接访问的网络技术,NVIDIA Quantum-2 InfiniBand平台是NVIDIA的另一个网络平台,用于实现更为高端的GPU互连网络。

由Israel-1的配置可见,Israel-1是为了向广大服务器工业界和数据中心产业界验证构建基于高性能以太网的生成式AI数据中心的可行性。

相较于基于现有以太网技术方案的传统数据中心,Israel-1提供了一种全新的设计架构,通过用BlueFiled-3 DPU在主机端加速网络和关键应用,Spectrum-4替换传统交换机实现网络中的高速数据交换和业务性能隔离,LinkX助力于端到端的数据完整性保障,NVIDIA全栈式AI软件提供高效易用的操作平台,满足了生成式AI数据中心对于以太网平台上性能的追求。

简单理解,NVIDIA是在创建一个全新的数据中心市场,一个面向未来的数据中心市场,而不是在进攻传统的数据中心市场,那就是高端AI工厂和豪华版生成式AI数据中心,这就相当于智能手机里的最高配安卓机与最高配苹果机,彻底颠覆了传统手机市场。究竟NVIDIA能否在这个市场上创造辉煌?这还要看生成式AI在多大程度上能够真正成为一个产业,而不是像传统AI那样最终趋于平静。

继高盛的经济学家之后,麦肯锡发布了《生成式AI经济潜力》报告,麦肯锡分析调查了47个国家的850种职业、63个应用示例和2100多项详细的工作活动,基本涵盖全球80%的劳动力。麦肯锡分析的63个生成式AI用例,涵盖16个业务场景,每年可为全球带来2.6-4.4万亿美元经济效益。麦肯锡还发现,当把生成式AI应用在知识工作者的岗位时,每年可为全球增加6.1-7.9万亿美元经济效益,高于业务场景用例。麦肯锡预计,从2023年到2040年,通过生成式AI实现的业务流程自动化,可为全球提供0.2%—3.3%的生产力。

总体来说,生成式AI的商业前景正在迅速形成中,而且能够切实为所有人和所有企业带来生产力和生产效率的提升,而NVIDIA对生成式AI数据中心的“押注”,或许将为全球数据中心产业带来一场新的风暴。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/666965.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

【Java】POJO类的属性不要命名为isXXX的问题描述,复现,解决方法

问题描述 POJO的属性是布尔类型的时候,采用is_xxx的命名方式,出现参数无法找到的情况 问题复现 Boolean 的属性命名为isA,但是它的getter和setter自动取消了is public class Person { Boolean isA; public Boolean getA() { return is…

locust学习教程(4) - 命令行参数

前言 一句话总结:命令行参数、环境变量、配置文件 1、所有命令行参数 1.1、常用场景参数解读 1.1.1、无web界面,定时运行,数据存储在csv中: locust -f per_01_test.py --headless -u 10 -r 1 -t 1m -s 120 --csvexample --head…

locust学习教程(1)- 概念相关

前言 一句话总结:本文是基于2.4.1的版本去学习locust,如果你想完全搞懂它,那么就从最新的产品文档从头到尾去研读一遍吧。 1、locust是什么? 1.1、相关资料 官网:www.locust.io/产品文档:docs.locust.io…

光伏电站并网雷电防护措施探讨 安科瑞 许敏

摘要: 本文指出了雷击对并网系统光伏电站的主要危害形式及所对应的雷电防护措施。依据相关的防雷及电气接地规范,针对并网系统光伏电站提出了防雷设计方案并做了详细的阐述。在光伏电站的防雷设计中,应考虑雷电会通过何种形式对哪些设施造成损害&#xf…

玩转系统|完美替代ChatGPT!Claude注册教程及出现问题解决方案

目录 1、什么是ChatGPT? 2、什么是Claude? 3、为什么推荐Claude? 3.1、Claude特性 4、注册 slack 5、Claude添加到Slack 6、出现APP Unavailable问题 7、如何解决该问题 8、使用感受 8、1代码测试 8、2文学测试 8、3英语测试 1、什么是ChatGPT&a…

防溺水智能预警监控系统解决方案

一、方案背景 随着夏季暑期的到来,孩童、学生溺水的警钟又不断敲响。预防夏季溺水,不仅要求学校方面要加强安全宣传教育,同时相关部门也需要加强对河流、湖泊、水库、池塘等水域的监控和人员靠近预警。 目前水库、河湖、堤坝、河湖岸线、深水…

图观 智慧交通合集 | 9大行业细分应用案例 一次性看个够!

随着城市化进程的加速和交通需求的不断增长,城市交通系统的安全、高效、智能化的要求越来越高,智慧交通正成为现代城市发展的必然趋势。数字孪生技术的出现,为智慧交通领域的应用提供了更为广阔的空间。 数字冰雹深耕数字孪生行业十余载&…

【Java高级语法】(九)IO流:肝了三天三夜,我打赌没有比我这边更细的探索Java I\O流的文章了~

Java高级语法详解之IO流 :one: 概念1.1 输入流和输出流1.2 字节流和字符流 :two: 优势和缺点:three: 使用3.1 File 类3.2 RandomAccessFile 类3.3 字节流3.3.1 文件字节流3.3.2 缓冲字节流3.3.3 基本数据类型字节流3.3.4 打印流3.3.5 对象序列化流3.3.6 字节数组流 3.4 字符流3…

论文笔记 - 对话系统中的 OOD (Out of Domain出域)问题

徐阿衡 人工智能与机器学习工程师 最近看了下 2021年关于 OOD 的几篇 paper,记录一下~ 对话系统中的 domain 都是预先定义好的,而在实际应用场景中,会有很多现有系统回答不了的问题(out of the design scope)&#…

locust学习教程(3)- 编写locust脚本

前言 一句话总结:并发的用户执行了第一类测试任务、第二类测试任务,设置所有类的测试前置、测试后置,设置每一类测试任务的测试前置,测试后置。 1、概念 1.1、一个完整的脚本示例 from locust import task, HttpUser, constant…

ASEMI代理光宝光耦LTV-50L的工作原理及应用领域

编辑-Z 本文将对光耦LTV-50L进行详细的介绍,包括其工作原理、性能特点、应用领域以及注意事项。通过阅读本文,您将对光耦LTV-50L有更深入的了解,以便在实际应用中更好地发挥其作用。 1、光耦LTV-50L的工作原理 光耦LTV-50L是一种光电器件&a…

uni-table 表格的封装

文章目录 项目场景:实现效果创建表格组件文件页面中使用实现方法 项目场景: 在实际的应用场景中,表格是一个非常常见的需求,如果每一个的表格都自己去手写的话非常的浪费时间,并且当中的代码冗余量非常大,…

Python--元组

Python--元组 <font colorblue>一、创建元组<font colorblue>二、访问元组元素<font colorblue>三、元组的增、删、查、改<font colorblue>1、添加元素<font colorblue>2、删除元素<font colorblue>3、查找元素<font colorblue>4、修…

甄品进化 | 燕小千智能助手,用AIGC撬动企业知识宝藏

背景&#xff1a;2022年AIGC&#xff08;AI-Generated Content,人工智能生成内容&#xff09;这个新概念横空出世&#xff0c;不仅被消费者追捧&#xff0c;而且备受投资界的关注&#xff0c;更是被技术和产业界竞相追逐。2022年12月&#xff0c;OpenAI的大型语言生成模型ChatG…

Android 60问60答 (一篇复习整个Android)

Android 60问60答 &#xff08;一篇复习整个Android&#xff09; 有哪些移动端平台&#xff1f; 厂商开发平台&#xff1a; los 黑莓&#xff08;blackBerry&#xff09; 第三方私有平台&#xff1a;第三方开发供移动设备厂商使用 WindowsMobile 免费开源平台&#xff1…

微信小程序克隆到运行

1.git克隆 2.安装依赖 npm i 如果遇到卡在node lib/install.js 一直不进行 重新运行安装&#xff1a;(https://www.python100.com/html/3716RLP8FZM2.html) npm install --ignore-scripts理解npm install --ignore-scripts 3.安装完运行 npm run serve如果报错&#xff1a; …

基于改进多目标粒子群算法的配电网储能选址定容——附Matlab代码

目录 摘要&#xff1a; 主要内容&#xff1a; 程序思路&#xff1a; 储能选址定容优化模型&#xff1a; &#xff08;1&#xff09;节点电压波动&#xff1a; &#xff08;2&#xff09;负荷波动&#xff1a; &#xff08;3&#xff09;储能系统容量&#xff1a; 改进的…

2023年最好用的办公AI工具,让你工作效率提升10倍!

2023年是AI工具大爆发的一年&#xff0c;在效率办公领域&#xff0c;同样涌现出了很多优秀的AI办公工具&#xff0c;小编亲测了几款&#xff0c;都是宝藏好用的App&#xff0c;以下排名不分先后&#xff0c;一起来看看吧&#xff01; AI办公工具哪个好 GitMindNotion AI酷表C…

智能优化算法之黏菌优化算法(SMA),附matlab代码

黏菌算法是2020年提出的一种智能优化算反&#xff0c;主要模拟的是自然界中多头绒泡菌在不同食物浓度下的觅食行为以及状态变化。黏菌主要分泌酶来消化食物&#xff0c;黏菌的前端延伸成扇形&#xff0c;后端由相互连接的静脉网络包围。环境中不同浓度的食物影响着黏菌静脉网络…

C语言数据在内存中存储---整型提升练习

前言&#xff1a;学习了C语言中的整型提升&#xff0c;总是感觉听的时候很明白&#xff0c;但当自己做题的时候&#xff0c;又总是遗漏了哪一步。自己的感悟&#xff1a;整型提升步骤以及原理都一样&#xff0c;就是把步骤记清楚一步一步的来就行。因此通过下面的一道题来每日复…