今天在写大模型量化推理框架时遇到了一些编译上的错误，简单复盘一下问题和解决方案：

问题1：CMAKE_CUDA_ARCHITECTURES

报错信息：
CMake Error: CMAKE_CUDA_ARCHITECTURES must be non-empty if set

cmake和cuda相关的报错通常都很“调虎离山”。
当出现这个报错时，本质问题并不是没有指定所谓的cuda architecture参数，而是找不到nvcc路径。

那么解决方案就是在环境变量中添加nvcc的路径：

export PATH="$PATH:/usr/local/cuda/bin"
export LD_LIBRARY_PATH="/usr/local/cuda/lib64:$LD_LIBRARY_PATH"
export CUDA_HOME=/usr/local/cuda

然后source ~/.bashrc保存修改的内容，然后用如下命令检查一下是否生效：

参考资料：
CMake Error: CMAKE_CUDA_ARCHITECTURES must be non-empty if set

问题2：CMake版本过低

服务器上CMake版本过低：

这个好处理，直接用pip安装新版的cmake即可：

pip install cmake

问题3：GCC版本过低

服务器上默认的gcc版本非常低：

这个问题比较棘手，需要手动下载新版的gcc，然后激活新版的gcc以替换旧版本。比如现在服务器上下载好了多个版本的gcc：

我进入到11版本的文件夹中，然后执行如下命令激活：

source enable 

于是，查看当前的gcc的版本：

但是并没有这么顺利，我发现在编译时仍然会报错gcc版本过低。下面是我猜测的原因，我将gcc的路径打印（whereis gcc）出来，发现有多个路径，也许系统默认选择了第一个路径，也就是老版本。

于是我尝试在CMakeLists.txt的开头加上如下代码，作用是手动指定gcc的路径：

set(CMAKE_CXX_COMPILER /opt/rh/devtoolset-11/root/usr/bin/gcc)

然后编译了一次好像没生效，然后我再编译了一次，发现编译成功！