文章目录
- 前景
- 解决方案
- CUDA替代方案
- OpenMP
- OpenACC
- C++ 库
- Python 和 Java
- SYCL 和 oneAPI
- 结论
如今,异构性广泛存在于高性能计算和消费电子产品中。这些系统在传统 CPU 的基础上增加了大量协处理器或加速器,例如 GPU、TPU 和 FPGA。然而,没有一种简单、可移植且高效的方法来开发这些系统。Intel oneAPI就旨在填补这一角色。
前景
近年来,可以观察到计算中明显的异构趋势,不仅在高性能计算机中,其中排名前500 的 Nvidia GPU是最常用的加速器;也适用于台式机和手持设备。如今大多数智能手机都包含一个GPU,Apple M1是一个片上系统,用于最新的Apple 电脑和平板电脑,包括一个ARM CPU、一个GPU和其他加速器,如用于人工智能应用的16核神经引擎。
这些异质性SOC日益突出,是这种向异质性转变的明确指标。这种转变使得在不依赖于特定供应商的情况下为不同的异构体系结构开发一种简单而统一的方法变得很重要。
图 1.1 2014 年以来 500 强加速器系统份额的演变
图 1.2 图 1.1 中描绘的图例
与 SYCL 一起,oneAPI 是异构编程最有前途的替代方案,它提供了一种开放且用户友好的方法,由于英特尔在#oneAPI 上投入的巨大投资和努力,它正在成为未来标准的道路上不断增长的异构编程世界。
到目前为止,正如我们可以从图表中解读的那样(如图 1.1 和 1.2 所示),使用最广泛的加速器是 Nvidia GPU。这些设备大多使用 CUDA 进行编程,CUDA 是 Nvidia 的专有编程模型,尽管它有一系列缺点:
● 由于 CUDA 是一种低级方法,因此需要有经验的程序员才能获得良好的性能。
● 该语言是专有的,仅适用于 Nvidia GPU。
● 没有用于CUDA 编程的自动或引导工具,也就是说,与其他针对已包含SIMD 并行性的CPU 的编译器相比,编译器还不够完善。
解决方案
英特尔 DPC++ 兼容性工具 (DPCT) 通过自动将大部分 CUDA 代码转换为 DPC++ 来帮助迁移过程,大大减少了开发人员的工作量。
面向未来的编程模型让您可以自由选择可以做什么:
- 编译 ISO C++ 和 SYCL*(来自 Khronos* Group) 跨- 硬件目标重用代码,包括 CPU、GPU 和 FPGA。
- 通过跨行业、开放、基于标准的统一编程模型避免专有锁定
特征:
跨架构编译(图2.1):
- 开发生产力:通过单一源代码以 CPU 和加速器为目标,同时允许自定义调整。
- 语言标准支持:根据最新标准构建,包括 C++ 17 和 SYCL**,并初步支持 C++ 20,以确保可移植性和对通用 lambda 表达式和变量模板等功能的支持。
- 行业标准支持:支持 GPU 卸载的 OpenMP 4.5、5.0 和 5.1 子集**
- 值得信赖的技术:使用久经考验的 LLVM 编译器技术以及英特尔在编译器方面的领导地位历史
仅在英特尔 oneAPI DPC++/C++ 编译器中可用。
图 2.1
CUDA替代方案
尽管CUDA仍然是使用最广泛的低级GPGPU编程模型,但其他方法已经开发出来,其中一些已经得到大量使用。
2018年微软发布了DirectCompute API,为 Windows平台提供了GPGPU编程框架。尽管它具有与CUDA相似的抽象级别,但它被CUDA和其他方法(如OpenCL)所掩盖。
OpenCL,或开放计算语言,由 Apple开发,作为CUDA 的开源替代品。2008年,Apple向Kronos Group提交了一份关于创建和管理OpenCL语言的提案。年底,OpenCL 1.0技术规范发布,得到AMD、Nvidia、IBM的支持。OpenCL 设备代码的抽象级别与CUDA非常相似,但主机代码更加冗长,因此需要大量的低级重复代码。
高级编程:
为了回应人们对基于 GPU 的异构计算的兴趣,2006 年至 2011 年间开发的一些研究型方法演变成生产级模型。
OpenMP
Open Multi-Processing 的缩写,OpenMP 是 2000 年代初期多核 CPU 计算的主要标准。在 2010 年代初,存在对 OpenMP 支持加速器的需求,导致将 GPU 卸载到 2013 年发布的 OpenMP 4.0 的新指令包含在内。OpenMP 5.0 (2018) 扩展了对加速器的支持,并包含用于任务处理和自动并行
OpenACC
OpenACC(Open Accelerators)是首批拥有大量用户群的高级 GPGPU 编程方法之一,于 2012 年发布,以支持 ORNL Titan 的用户,这是首批大型异构超级计算机之一。它允许用户公开并行性,将并行性的映射留给编译器
C++ 库
和扩展 已经开发了大量的 C++ 库和扩展来支持异构计算,例如 Kokkos 和 Raja [5]。其他示例包括:C++ AMP(加速大规模并行)(2012 年)、C++ Boost(2015 年)、Thrust(2012 年)和 C++ Bolt(2014 年)。此外,较新版本的 C++ 标准直接包含不同类型的并行性。C++ 17 增加了对 SIMD 的支持
Python 和 Java
尽管大多数高级异构编程方法都针对 C 和 C++,但也有一些是针对 Java 和 Python 开发的。PyCUDA 和 JCUDA 分别为 Python 和 Java 提供 CUDA 包装器
SYCL 和 oneAPI
SYCL 是一个跨平台抽象层,使用标准 ISO C++ 为异构处理器编写代码,在单个源文件中包含主机和内核代码。它使用带有模板和 lambda 函数的通用编程,通过广泛的各种加速 API(例如 OpenCL)对内核代码进行优化加速,从而使更高级别的应用软件能够被干净地编码。通过互操作模式、C/C++ 库和 OpenCV 或 OpenMP 等框架与原生加速 API 无缝集成,开发人员始终可以访问较低级别的代码
OneAPI是一种开放、免费且基于标准的编程模型,可提供跨加速器和各代硬件的可移植性。它封装了几种讨论的技术和方法,由以下用于创建并行应用程序的语言和库组成:
● 数据并行 C++ (DPC++) 语言:DPC++ 于 2019 年推出,是 oneAPI 用于编程加速器和多处理器的核心语言,并集成了 SYCL和带有附加扩展的 OpenCL 标准。
● oneCCL:用于跨多个设备扩展深度学习框架的通信原语。
● oneDAL:加速数据科学的算法。● oneDNN:深度学习框架
原语的高性能实现。
● oneDPL:oneAPI DPC++/C++ 编译器的伴侣,用于使用来自 C++ 标准库、并行 STL 和扩展的 API 对 oneAPI 设备进行编程。
● oneMKL:用于科学、工程和金融应用的高性能数学例程。
● oneTBB:用于将基于线程的并行性添加到多处理器上的复杂应用程序的库。
● oneVPL:加速视频处理的算法。
OneAPI 通过跨加速器架构提供相同的语言和编程模型来简化软件开发。
结论
在这篇文章中,我们讨论了异构计算领域的差距以及oneAPI如何提供了一个很好的解决方案,想要了解oneAPI的更多内容可以去官网学习,官网有非常详细和丰富的学习资源,这里附上官网链接。
请使用浏览器(推荐Chrome, Firefox, Microsoft Edge最新版, IE V11版以上)访问:https://devcloud.intel.com/oneapi/。