ubuntu 24.04 安装 Nvidia 显卡驱动 + CUDA + cuDNN，配置 AI 深度学习训练环境，简单易懂，一看就会！
1.查看本机显卡型号
lspci | grep -i nvidia
输出如下：
01:00.0 3D controller: NVIDIA Corporation GM108M [GeForce 920MX] (rev a2)
其中，GeForce 920MX就是我们的显卡型号。
2.下载 Nvidia 显卡驱动
官网：点击此处下载NVIDIA驱动
根据显卡型号搜索驱动：
选择查找
下载最新版驱动
3.安装显卡驱动
安装编译环境
sudo apt update
sudo apt install gcc make
运行安装程序
chmod +x NVIDIA-Linux-x86_64-560.31.02.run
sudo ./NVIDIA-Linux-x86_64-560.31.02.run
选择“Continue installation”，回车
进入编译中…
注意：在这里编译时会出现编译错误而中断，原因是下载的显卡驱动是最新的，需要用较高的 gcc 版本编译器来编译，默认 gcc 的版本是 11，小于编译所需要的 12 版本。因此需要安装 12 版本的，并调整 gcc 链接。
sudo apt install gcc-12
sudo update-alternatives --install /usr/bin/gcc gcc /usr/bin/x86_64-linux-gnu-gcc-12 20
重新运行安装程序：
sudo ./NVIDIA-Linux-x86_64-560.31.02.run
编译通过后，接着运行到下面这里，选择“Yes”
安装过程中，会提示是否禁用 nouveau 驱动，选择是，NVIDIA 会自动屏蔽 nouveau 驱动，不用手动禁止。
在安装过程中，没有不是特别要求的话，提示选择是否的话，可以都选择“是”。
终端运行nvidia-smi：
输出如下，可以查看到版本号和显存：
安装完成，重启。
4.CUDA 安装
查看显卡支持的 CUDA 版本
nvidia-smi
输出如下：
CUDA 最高可用版本为 12.6
到官网下载 CUDA：https://developer.nvidia.com/cuda-toolkit-archive
注意：CUDA 需要注册登录 NVIDIA 官网才能下载。
选择 12.6 版本以下的都可，最高版本可选择 12.6，根据系统版本选择相应的项：
得到下载地址和运行命令：
这里是：
wget https://developer.download.nvidia.com/compute/cuda/12.2.2/local_installers/cuda_12.2.2_535.104.05_linux.run
sudo sh cuda_12.2.2_535.104.05_linux.run
这里以 CUDA Toolkit 12.2.2为例安装:
chmod +x cuda_12.2.2_535.104.05_linux.run
sudo ./cuda_12.2.2_535.104.05_linux.run
选择“Continue”
输入“accept”
取消“Driver”选项，因为已经安装过显卡驱动了， 这里不需要安装，然后选择“Install”。
等待安装完成。
配置环境
nano ~/.bashrc
在文件最后添加以下内容：
export PATH=$PATH:/usr/local/cuda-12.2/bin
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cuda-12.2/lib64
重载配置
source ~/.bashrc
检查安装
nvcc -V
输出如下，则安装成功：
5.安装 cuDNN
官网下载：https://developer.nvidia.com/rdp/cudnn-download
选择相应项后会生成下载命令：
wget https://developer.download.nvidia.com/compute/cudnn/9.3.0/local_installers/cudnn-local-repo-ubuntu2404-9.3.0_1.0-1_amd64.deb
sudo dpkg -i cudnn-local-repo-ubuntu2404-9.3.0_1.0-1_amd64.deb
sudo cp /var/cudnn-local-repo-ubuntu2404-9.3.0/cudnn-*-keyring.gpg /usr/share/keyrings/
sudo apt-get update
sudo apt-get -y install cudnn
一般最新版本的显卡驱动都能适配最新版本的 cuDNN，若最新版本不适合当前的 CUDA，可以安装历史版本。
cuDNN 最新版本支持的 CUDA 查看：Support Matrix — NVIDIA cuDNN v9.3.0 documentation
查找 cuDNN 支持的 CUDA 的历史版本:
选择"cuDNN 8.x-1.x"
然后选择适应的版本下载deb包安装即可。
