英伟达GTC大会看点:Blackwell芯片、推理微服务NIM、人形机器人

news2024/9/25 13:25:51

北京时间3月19日,英伟达创始人兼首席执行官黄仁勋在美国加州圣何塞SAP中心拉开了GTC大会帷幕,这是时隔5年重回线下的会议,现场吸引了11000多名与会者。大会上黄仁勋演讲了长达120分钟的主题分享《见证AI的变革时刻》,并发布了最新技术Blackwell 架构、NIM微服务、Omniverse Cloud API等。

1、最新芯片技术Blackwell

黄仁勋在主题演讲中表示,英伟达将推出用于万亿参数级生成式AI的NVIDIA Blackwell架构。搭载Blackwell技术,英伟达将推出B200和GB200系列芯片。Blackwell 能大幅提高大模型的训练、推理效率。在 FP8 训练方面,Blackwell 的每芯片性能是其前身的 2.5 倍,在FP4推理方面的性能是其前身的 5 倍。它具有第五代 NVLink互连,速度是 Hopper 的两倍,并且可扩展至 576个GPU。

“加速计算已经达到临界点——通用计算已经失去动力,我们需要新的计算方式,来持续降低计算成本。加速计算普遍比通用计算速度更快!” 为了对全球人工智能基础设施进行大规模升级,黄仁勋推出了 NVIDIA Blackwell平台,满足客户在万亿参数大型语言模型上构建和运行实时生成式AI。

据介绍,Blackwell GPU拥有2080亿个晶体管,而H100/H200有800亿个晶体管,采用台积电4NP工艺制程,可以支持多达10万亿个参数的AI大模型。GB200将两个B200 Blackwell GPU与一个基于Arm的Grace CPU进行配对。

新的芯片架构和技术将极大改善能耗。黄仁勋举例称,如果要训练一个1.8万亿参数量的GPT模型,需要8000张Hopper GPU,消耗15兆瓦的电力,连续跑上90天。但如果使用Blackwell GPU,只需要2000张,跑90天只要消耗4兆瓦的电力。

据悉,在Blackwell产品正式发布之前,亚马逊、微软、谷歌等企业已经准备使用该产品。英伟达表示,新芯片预计将于今年上市,但目前还未公布相关售价信息。

02. 推理微服务NIM:软件服务全面升级

黄仁勋指出,生成式人工智能已经彻底改变了软件开发的方式,不再是传统意义上的编程。此次英伟达推出了一项全新的推理微服务NIM,该服务是通过一种交付快速推理模型的新方法来加速和优化生成式AI大语言模型的部署,用户可以在这里体验各种AI应用,企业可以在这里创建和部署自定义的AI应用。

黄仁勋介绍了英伟达如何使用NIM创建一个内部聊天机器人,旨在解决构建芯片时遇到的常见问题。“我们需要一个模拟引擎,以数字方式为机器人呈现世界,”他说,这就是 Omniverse。这些“微服务”将允许开发人员使用专有和自定义模型快速创建和部署“副驾驶”或人工智能助手。

此外,企业级数字孪生和沉浸式内容创建中心Omniverse将在Apple Vision Pro上首次亮相。通过英伟达Omniverse的云API和图形交付网络 (GDN),人们现在将可以轻松将3D应用的OpenUSD(交互式通用场景描述)实时串流到Vision Pro混合头显中。

03.人形机器人: 下一波AI浪潮

英伟达发布了人形机器人基础模型“GR00T项目”,这是一款基于英伟达Jetson嵌入式系统和Isaac Sim机器人仿真器的机器人模型。它可以理解自然语言,通过观察人类动作来模拟运动、学习走路,还具备了一定的自主导航、物体识别和抓取等能力。迪士尼的机器人也来到大会现场,它用的就是英伟达Jetson芯片。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1533835.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

Vue.js+SpringBoot开发高校宿舍调配管理系统

目录 一、摘要1.1 项目介绍1.2 项目录屏 二、功能需求2.1 学生端2.2 宿管2.3 老师端 三、系统展示四、核心代码4.1 查询单条个人习惯4.2 查询我的室友4.3 查询宿舍4.4 查询指定性别全部宿舍4.5 初次分配宿舍 五、免责说明 一、摘要 1.1 项目介绍 基于JAVAVueSpringBootMySQL的…

java.lang.RuntimeException: java.lang.IllegalArgumentException

填上红框内容,亲测可行 报错如下: java: java.lang.IllegalArgumentException java.lang.RuntimeException: java.lang.IllegalArgumentExceptionat com.sun.tools.javac.main.Main.compile(Main.java:553)at com.sun.tools.javac.api.JavacTaskImpl.do…

如何在Ubuntu使用宝塔面板搭建hadsky轻论坛并发布到公网可随时访问

文章目录 推荐前言1. 网站搭建1.1 网页下载和安装1.2 网页测试1.3 cpolar的安装和注册 2. 本地网页发布2.1 Cpolar临时数据隧道2.2 Cpolar稳定隧道(云端设置)2.3 Cpolar稳定隧道(本地设置)2.4 公网访问测试 总结 推荐 前些天发现了…

初阶数据结构之---二叉树链式结构(二叉树的构建,二叉树的前序,中序,后序和层序遍历,计算二叉树结点个数,第k层结点个数,叶子结点个数,判断是否为完全二叉树)

引言 本篇博客是初阶数据结构树的收尾,将会讲掉基本二叉树链式结构的具体内容和实现,包括二叉树的构建,前序遍历,中序遍历,后序遍历和层序遍历,计算二叉树结点个数,第k层结点个数,二…

H5大前端(Web前端)学习笔记(五)- Vue

前端Web VUEVue开发前的准备模板语法文本原始HTML属性Attribute使用JavaScript表达式 列表渲染事件处理表单输入绑定修饰符 组件基础单文件组件加载组件组件的组织 Props组件交互Prop类型 自定义事件组件交互Vue引入第三方Axios网络请求安装引入Axios网络请求封装 网络请求跨域…

【Java】Oracle发布Java22最新版本

甲骨文(ORACLE)已经于2023年3月19日正式发布了最新版本的JDK,版本号:22 根据官方声明,Java 22 (Oracle JDK 22) 在性能、稳定性和安全性方面进行了数千种改进,包括对Java 语言、其API 和性能,以…

Springcloud智慧工地APP云综合平台源码 SaaS服务

目录 智慧工地功能介绍 一、项目人员 二、视频监控 三、危大工程 四、绿色施工 五、安全隐患 具体功能介绍: 1.劳务管理: 2.施工安全管理: 3.视频监控管理: 4.机械安全管理: 5.危大工程监管: …

九.pandas绘图基础

目录 九.pandas绘图基础 1-柱状图 --参数stackedTrue堆积 --参数figsize(宽,高) --自定义横坐标 --设置字体&显示负号 2.箱型图 3. 折线图 九.pandas绘图基础 Pandas的DataFrame和Series,在matplotlib基础上封装了一个简易的绘图函数, 使得我们在数据处…

如何在Ubuntu使用宝塔部署Emlog网站并发布到公网实现任意浏览器访问

文章目录 前言1. 网站搭建1.1 Emolog网页下载和安装1.2 网页测试1.3 cpolar的安装和注册 2. 本地网页发布2.1 Cpolar临时数据隧道2.2.Cpolar稳定隧道(云端设置)2.3.Cpolar稳定隧道(本地设置) 3. 公网访问测试总结 前言 博客作为使…

发展的挺快的Rust

C 可能在将来会逐步的退出历史舞台 Rust 在linux 上出现的频次越来越多了 新的语言和重构带来了更方便快捷的体验 好玩的命令集合 https://github.com/ibraheemdev/modern-unix.git 这速度,这花活儿

LM studio使用gemmar聊天小试

通过LM studio可以方便的使用各种模型,使用LM提供的chat界面或者是使用python代码。 试试代码 在windows下使用python简单一试,例子直接复制LM界面上的代码: 用pip安装 openai包在LM界面 Start Server 需要安装 openai包。 本地电脑是I7…

Python爬取豆瓣电影Top 250,豆瓣电影评分可视化,豆瓣电影评分预测系统

博主介绍:✌程序员徐师兄、7年大厂程序员经历。全网粉丝12w、csdn博客专家、掘金/华为云/阿里云/InfoQ等平台优质作者、专注于Java技术领域和毕业项目实战✌ 🍅文末获取源码联系🍅 👇🏻 精彩专栏推荐订阅👇…

基于单片机的指纹打卡机设计

摘要 在科学技术飞速发展的今天,社会对身份识别的要求越来越高,尤其是在企业管理的人员签到、工作考勤等活动中对身份识别的高效性和可靠性的需求更为迫切。而传统的个人身份识别手段,如钥匙、密码、IC卡等,由于具有可盗用、可伪…

【IEDM2023】背势垒电荷运动诱导GaN HEMT随时间的非稳态击穿

分享一篇2023年IEDM上GaN HEMT(高电子迁移率晶体管)的研究论文,标题为“Charge Movement in Back Barrier Induced Time-Dependent On-State Breakdown of GaN HEMT”。论文讨论了在GaN HEMT中,由于背栅(Back Barrier&…

一文彻底搞懂Producer端流程以及原理

一、引言 无论你是刚接触Pulsar还是使用Pulsar多年,相信你对下面这段代码都很熟悉,这就是生产者端最常写的代码没有之一,其中最核心的其实就三行代码,分别用红色数字标识出来了,其中对应的就是1、客户端对象创建 2、生…

【软考高项】十四、信息系统工程之数据工程

1、数据建模 概念模型:信息模型,不依赖具体的计算机系统,也不对应具体的DBMS,概念级别;基本元素包括:实体、属性、域(属性的取值范围)、键(标识符、身份证)、…

【嵌入式硬件】步进电机

1.步进电机简介 1.1步进电机基本原理 步进电机的英文是stepping motor。step的中文意思是行走、迈步。所以仅从字面上我们就可以得知,步进电机就是一步一步移动的电动机。说的官方一点儿,步进电机是一种将电脉冲信号转换成相应角位移或者线位移的电动机(直线电机)。下图为…

用 ElementPlus的日历组件如何改为中文

文章目录 问题分析 问题 直接引入日历组件后&#xff0c;都是英文&#xff0c;应该如何把头部英文改为中文 <template><el-calendar><template #date-cell"{ data }"><p :class"data.isSelected ? is-selected : ">{{ data.da…

并发编程所需的底层基础

一、计算机运行的底层原理 1.多级层次的存储结构 ①:辅存 固态盘不是主要的应用对象&#xff0c;因为固态盘的使用次数是有限的&#xff0c;无法支撑高并发场景 磁盘存储的最基本原理是电生磁。 磁盘的磁道里边有很多的磁颗粒&#xff0c;磁颗粒上边有一层薄膜为了防止磁点氧…

微火共享wifi贴如何加盟?

最近看到有多人在求助&#xff0c;微火共享wifi贴码如何加盟&#xff0c;所以&#xff0c;小编特意整理了一下&#xff0c;将想加入的具体办法都写了出来&#xff0c;以供大家参考。 首先&#xff0c;要想加入微火共享wifi&#xff0c;可以先进入其官网&#xff0c;方法有两种&…