1 GPU 介绍

GPU（graphics processing unit），意为图形处理器，也被称为显卡（graphics card）。GPU的浮点数运算峰值就比同时期的CPU高一个量级；GPU的内存带宽峰值也比同时期的CPU高一个量级。

CPU和GPU的显著区别是： 一个典型的CPU拥有少数几个快速的计算核心，而一个典型的GPU拥有几百到几千个不那么快速的计算核心。所以，GPU是靠众多的计算核心来获得相对较高的计算性能的。

GPU计算不是指单独的GPU计算，而是指CPU+GPU的异构（heterogeneous）计算。一块单独的GPU 是无法独立地完成所有计算任务的，它必须在CPU 的调度下才能完成特定任务。

通常将起控制作用的CPU 称为主机（host），将起加速作用的GPU 称为设备（device）。主机和（非集成）设备都有自己的DRAM（dynamicrandom-access memory，动态随机存取内存），它们之间一般由PCIe总线（peripheral component interconnect express bus）连接。

2 CUDA程序开发工具介绍

CUDA 编程语言是基于C/C++语言。

CUDA提供了两层API，即CUDA驱动（driver） 和CUDA运行时（runtime） 。

其中，CUDA驱动是更加底层的API，它为程序员提供了更为灵活的编程接口；CUDA运行时API是
在CUDA驱动API的基础上构建的一个更为高级的API，更容易使用。这两种API在性能上几乎没有差别。 故本书只涉及runtime API，下图展示了CUDA开发环境的主要组件。

3 CUDA环境搭建

这里介绍Windows环境搭建、Linux环境搭建请自行搜索。

IDE选择Visual Studio Community 2022 ，CUDA版本选择Windows_X86_64_10，CUDA下载连接，Installer Type随便选

安装好后打开CMD进入cd C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\替换成你的\extras\demo_suite，然后再输入“bandwidthTest.exe”和“deviceQuery.exe”，输出中Result=PASS就代表安装成功了