随着人工智能的“iPhone 时刻”到来,每家企业都将采用生成式人工智能,每个行业也都将被人工智能改变,开发者也在积极拥抱这股浪潮。
据开发者社区 CSDN 统计,在其注册开发者中,689 万开发者阅读、撰写与研究 AI 技术,其中精准聚焦 AI 学习及应用的开发者人数达到了 154 万。由此说明,开发者学习和掌握 AI 已成必然趋势。AI 涵盖技术点众多,开发者该关注哪些技术风向?
10月17日,在NVIDIA办公室,CSDN记者领略一场别开生面的发布会,见证由 NVIDIA 撰写的《数据处理器: DPU 编程入门》一书正式上市发行,成为 NVIDIA 的全球首部 DPU 处理器编程入门书籍。
- DPU :未来计算三大支柱之一
发布会伊始,NVIDIA 全球副总裁,中国企业营销负责人刘念宁以一袭酷飒的古装出场,揭秘《数据处理器: DPU 编程入门》书籍的神秘面纱。刘念宁表示,开发者要在大模型百花齐放中突出重围,需要有秘诀?那就是“三芯+二意,打造AI世界“。三芯就是“CPU、GPU和DPU”,二意就是“DOCA+CUDA”。
为何她如此说?
随着AIGC的迅速发展,大规模算力需求随之攀升。为了更好地支撑人工智能的发展,数据中心成为了新的计算单元,而网络定义了数据中心。NVIDIA 定位了不同类型的人工智能数据中心基础设施网络,以满足 AI 工厂和生成式人工智能云的需求,从而为大规模人工智能模型所需的大量 GPU 计算提供高性能、低延迟网络平台来实现数据中心级别的绝佳性能。在 AI 工厂和生成式人工智能云两种数据中心的设计范例中,均使用 DPU(数据处理器)来加速数据中心基础设施,可以轻松构建一个软件定义、硬件加速的数据中心,并确保其安全。
NVIDIA 创始人兼首席执行官黄仁勋在发布 DPU 时曾表示:“DPU 将与 CPU、GPU 成为未来计算的三大支柱,数据中心将成为新的计算单元”。
通过把数据中心基础设施操作从 CPU 卸载到 DPU 上,可以将 CPU 和 GPU 的计算资源集中到应用程序和业务负载上。这是数据中心演变的大势所趋,也是推出 NVIDIA BlueField 系列 DPU 的核心价值。
NVIDIA DOCA 是一个为 NVIDIA BlueField 系列DPU 量身定做的软件开发环境,通过打造一个全面、开放的开发环境,可以让开发者快速创建基于 DPU 加速的高性能应用程序和服务。NVIDIA DOCA 在基于 NVIDIA BlueField 系列 DPU 的应用程序与服务方面发挥着关键的灵魂作用,是释放 DPU 潜力的关键。
刘念宁补充说,在生成式 AI 时代,DPU 是企业构建加速计算平台、AI工厂的关键。NVIDIA BlueField 系列 DPU 在 NVIDIA DOCA 软件开发环境的支持下,能帮助企业构建一个软件定义、硬件加速的数据中心基础设施,从而更好地支撑大模型训练的苛刻要求,值得广大开发者投入研究和学习。
自2021年6月,DOCA中国开发者社区成立以来,目前超过42%的DOCA开发者在中国。那么如何帮助开发者在 DOCA 编程世界里游刃有余?
二、NVIDIA 发布首部 DPU 和 DOCA 编程入门书籍
为了让开发者便捷入门学习 DPU 和 DOCA,NVIDIA 集合十多位资深系统架构师,历经数月,将多年来的研发经验和体会凝结成《数据处理器: DPU 编程入门》一书,为使用 NVIDIA BlueField 系列 DPU 和 NVIDIA DOCA™开发环境的开发者提供实用指南,助力开发者快速上手,学习如何在 DPU 上灵活编程。
《数据处理器: DPU 编程入门》为全球最大 DOCA 开发者社区的中国开发者提供了官方的参考书籍。这本书由浅入深,介绍 DPU 的背景和趋势,DPU的概念与应用,介绍如何安装、使用等,还将介绍DOCA的概述及开发体验,还将介绍如何在仿真环境体验与进行开发实践。最后还将阐述DOCA的生态体系。
这本书作为学习DPU和DOCA的“武林秘籍”,适合从事AI云开发,想入门DPU和DOCA的初学者或有经验的开发人员,高校学生、科研人员、网络工程师、数据中心管理员和开发运维人员,都是很好的学习范本。
正如 NVIDIA 中国区工程和解决方案高级总监赖俊杰所说: “全球企业正在从通用计算向加速计算和生成式 AI 转变,DPU 作为全新的处理器类型,满足了数据中心基础设施在性能、效率、规模、弹性、安全和能效等方面的需求。软件开发者和数据科学家可以通过本书深刻地理解NVIDIA BlueField 系列 DPU 和 NVIDIA DOCA 软件开发环境,并利用它们构建云和 AI 应用所需的数据中心基础设施。”