目录

2. 编译阶段（步骤）

2.1 NVCC预定义宏

2.2 NVCC编译步骤

2.3 NVCC支持的文件后缀

2.4 支持的编译阶段

3. CUDA 编译内幕

---

2. 编译阶段（步骤）

2.1 NVCC预定义宏

• __NVCC__

在编译C/C++/CUDA源文件时定义

• __CUDACC__

在编译CUDA源文件时定义

• __CUDACC_RDC__

在编译可重定位（relocatable）设备端代码模式时定义(详见6.2章节)

• __CUDACC_EWP__

在可扩展整个程序模式下编译CUDA源文件时定义（详见4.2.3章节）

• __CUDACC_DEBUG__

在指定编译debug版本的CUDA源文件时定义（详见4.2.3章节）

• __CUDACC_RELAXED_CONSTEXPR__

命令行中指定--expt-relaxed-constexpr标志位时定义，详细参阅《cuda C编程指南》

• __CUDACC_EXTENDED_LAMBDA__

命令行中指定--expt-extended-lambda或者--extended-lambda标志位时定义，详细参阅《cuda C编程指南》

• __CUDACC_VER_MAJOR__

随nvcc的major版本定义

• __CUDACC_VER_MINOR__

随nvcc的minor版本定义

• __CUDACC_VER_BUILD__

随nvcc的构建版本定义

2.2 NVCC编译步骤

nvcc的编译由几个不同的逻辑翻译步骤组成，这可以通过nvcc命令行选项来选择。

一个单独的编译阶段，也可以被NVCC分解成几个不同的步骤，这些步骤合并组成一个编译过程。然而，编译取决于nvcc所使用的（nvcc更像一个编译工具的集成者）内部编译套件，这些编译套件会随着CUDA工具套件的更新而改变。因此，在不同的发行版本中，只有统一的整个编译流程是稳定不变的。nvcc提供了一系列命令行选项来展示编译所执行的不同阶段，但这仅仅用作debug使用，不要拷贝并在构建脚本中使用。因为编译的中间结果依赖于特定的nvcc编译工具套件，多版本之间可能不兼容。

实际上，nvcc的编译除了依赖于编译选项，也依赖于输入文件的后缀。通过输入文件后缀确定编译阶段的输入，通过命令行选项确定编译阶段的输出。2.3章节会介绍NVCC支持的文件后缀，2.4章节会介绍NVCC支持的编译阶段。

2.3 NVCC支持的文件后缀

• .cu：cuda源文件，包含了host代码和device代码
• .c：C源文件
• .cc,.cxx,.cpp：C++源文件
• .ptx：ptx中间汇编码文件
• .cubin：cuda设备端可执行二进制码文件（单GPU架构下）
• .fatbin：cuda fat二进制文件，可以包含多个ptx码和cubin码文件
• .o,.obj：对象文件
• .a,.lib：库文件
• .res： 资源文件
• .so：动态库文件

2.4 支持的编译阶段

下表介绍支持的编译阶段和相关的命令行选项，以及不同编译阶段的默认输出文件名称（当不使用--output-file选项时）：

Phase	nvcc选项		默认输出文件名称
	长	短
cuda编译到C/C++源文件	--cuda	-cuda	x.cpp.ii，x表示源文件名。该输出文件可以通过host编译器进行后续编译，nvcc使用host编译器对.cu文件进行预处理
C/C++预处理	--preprocess	-E	标准的预处理输出
C/C++编译到目标文件	--compile	-c	x.o(Linux和Mac OS X)，x.obj（Windows）
从cuda源文件生成cubin文件	--cubin	-cubin	x.cubin
从ptx中间码生成cubin文件	--cubin	-cubin	x.cubin
从cuda源文件生成ptx中间码文件	--ptx	-ptx	x.ptx
从源文件，ptx或cubin文件生成fatbin文件	--fatbin	-fatbin	x.fatbin
链接生成设备端的可重定位代码	--device-link	-dlink	a_dlink.obj(Windows)或a_dlink.o（Linux, Mac OS X）
从设备端可重定位代码生成设备端cubin二进制	--device-link --cubin	-dlink -cubin	a_dlink.cubin
从设备端可重定位代码生成fatbin	--device-link --fatbin	-dlink -fatbin	a_dlink.fatbin
链接生成可执行文件	无选项		a.out(Linux, Mac OS X)或a.exe(Windows)
目标文件打成包或库	--lib	-lib	a.a(Linux, Mac OS X)或a.lib(Windows)
生成依赖	--generate-dependencies	-M	标准的输出
生成不包含系统path路径的依赖	--generate-nonsystem-dependencies	-MM	标准输出
运行可执行文件	--run	-run	直接运行编译好的可执行文件，无需指定库路径（LD_LIBRARY_PATH）

在不指定具体命令行选项的时候，nvcc编译并链接所有输入的文件。

3. CUDA 编译内幕

cuda编译过程如下：

1) 源程序进行设备端（GPU）代码编译前的预处理，预处理后编译成cuda二进制（cubin）和（或）ptx中间码，放到fatbin文件中

2）源程序进行主机端（CPU）代码编译前的预处理，预处理后合入fatbin进去，并转换所有cuda C++扩展语法到标准的C++语法

3）host主机侧编译器编译合并后的代码（标准C++，以及嵌入了fatbin设备端代码）成目标文件。

当主机（端）程序启动（launch）运行设备端（__global__）代码时，cuda运行时系统会检查嵌入的fatbin代码，并获取适合当前GPU运行的fatbin（也就是说其中可以有支持各个不同架构GPU的fabin码嵌入在host程序中 ？）

cuda程序默认是被整体编译的，即设备端代码（C++文件对外暴露的函数和变量等）无法在另外一个文件中被引用。在整体编译模式下，设备代码的链接步长是无影响的。有关整体编译和分开编译，可以参考第6章节。

CUDA编译原理如下：

 

关于作者：

犇叔，浙江大学计算机科学与技术专业，研究生毕业，而立有余。先后在华为、阿里巴巴和字节跳动，从事技术研发工作，资深研发专家。主要研究领域包括虚拟化、分布式技术和存储系统（包括CPU与计算、GPU异构计算、分布式块存储、分布式数据库等领域）、高性能RDMA网络协议和数据中心应用、Linux内核等方向。

专业方向爱好：数学、科学技术应用

关注犇叔，期望为您带来更多科研领域的知识和产业应用。

内容坚持原创，坚持干货有料。坚持长期创作，关注犇叔不迷路