一、安装cuda
确保显卡驱动正确安装

终端输入：
nvidia-smi

显示下面结果，说明显卡驱动安装正常，可以进行下一步
1.去官网下载CUDA，需要注册账号下载

https://developer.nvidia.com/cuda-toolkit-archive由于我们显卡支持12.2，因此为了保险起见，我们安装低一个版本的cudn，选择12.1安装，在上述界面中点击“CUDA Toolkit 12.1.1(July 2023), Versioned Online Documentation”，然后进去下面界面
2. 然后执行下面命令进行下载安装

wget https://developer.download.nvidia.com/compute/cuda/12.1.1/local_installers/cuda_12.1.1_530.30.02_linux.run

sudo sh cuda_12.1.1_530.30.02_linux.run

进入以下界面
点击Continue“”

输入"accept"

在这里，按“空格”键取消Driver，因为前面已经安装过驱动，再次安装可能出现冲突。然后选择“Install”
3.等待安装完成之后，配置环境变量。

export PATH=$PATH:/usr/local/cuda-12.1/bin
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cuda-12.1/lib64
export CUDA_HOME=$CUDA_HOME:/usr/local/cuda-12.1
source ~/ .bashrc

4. 上述完成之后，再输入

nvcc -V

输出下面信息，表示安装成功

二、安装cudnn
1.去官网下载对应的cudnn

https://developer.nvidia.com/rdp/cudnn-download

2.依次执行下面命令进行安装

wget https://developer.download.nvidia.com/compute/cudnn/9.3.0/local_installers/cudnn-local-repo-ubuntu2404-9.3.0_1.0-1_amd64.deb
sudo dpkg -i cudnn-local-repo-ubuntu2404-9.3.0_1.0-1_amd64.debsudo 
cp /var/cudnn-local-repo-ubuntu2404-9.3.0/cudnn-*-keyring.gpg /usr/share/keyrings/（这句话在执行上面安装完成之后界面会显示，直接复制界面中提示的执行即可）
sudo apt-get updatesudo apt-get -y install cudnn
sudo apt-get -y install cudnn-cuda-12

3.为了确保下面拷贝的程序的位置准确，通过whereis命令查找一下cudnn的安装位置

whereis cudnn_version.h
输出
cudnn_version.h: /usr/include/cudnn_version.h

所以，cudnn的安装文件在/usr/include下面

4.执行文件复制

sudo cp usr/include/cudnn* /usr/local/cuda-12.1/include

5.执行下面一句话，测试是否安装cudnn成功

cat /usr/local/cuda-12.1/include/cudnn_version.h | grep CUDNN_MAJOR -A 2

同时可以使用

dpkg -l |grep cudnn
查看版本信息

注意！安装完CUDA并通过nvcc -V命令测试完毕之后再次安装cudnn，可能由于复制文件过程中出现问题，导致安装完cudnn并测试成功后，再执行nvcc -V命令不显示，此时需要再重复步骤一即可，完成之后不需要重复步骤二即可完成安装任务。