CUDA

查看支持最高的cuda版本

nvidia-smi

CUDA Version:12.2
区官网下在12.2.x最新的版本即可CUDA Toolkit Archive | NVIDIA Developer

下载安装

wget https://developer.download.nvidia.com/compute/cuda/12.2.2/local_installers/cuda_12.2.2_535.104.05_linux.run
sudo sh cuda_12.2.2_535.104.05_linux.run

同意

accept

因为已经安装过驱动了(参考上篇博客)，这里取消驱动选择，然后选择install安装

环境变量

打开配置文件

sudo vim ~/.bashrc

增加CUDA 环境变量

## CUDA ENV
export CUDA_HOME=/usr/local/cuda
export LD_LIBRARY_PATH=${LD_LIBRARY_PATH}:${CUDA_HOME}/lib64
export PATH=${CUDA_HOME}/bin:${PATH}

使环境变量生效

source ~/.bashrc

验证nvcc

nvcc -V

cuDNN

安装必备软件

sudo apt-get install zlib1g

官网下载

与驱动或CUDA下载不同，cuDNN下载需要注册。点击链接，登录账号下载。如无账号，则按照提示先注册账号即可。

安装方法有两种，一种是适合所有Linux发行版本的Tar包安装，另外是适合不同发型版本的特定安装方式。这里介绍适合Debian（含Ubuntu）的本地安装方式。这里使用了对应CUDA12.2的版本。

cuDNN Download | NVIDIA Developer
## 解压安装

sudo dpkg -i cudnn-local-repo-ubuntu2204-8.9.5.29_1.0-1_amd64.deb 

根据提示输入

sudo cp /var/cudnn-local-repo-ubuntu2204-8.9.5.29/cudnn-local-275FA572-keyring.gpg /usr/share/keyrings/

更新源

sudo apt-get update

安装

## 1. Install the runtime library.
## sudo apt-get install libcudnn8=8.x.x.x-1+cudaX.Y
sudo apt-get install libcudnn8=8.9.5.29-1+cuda12.2
## 2. Install the developer library.
## sudo apt-get install libcudnn8-dev=8.x.x.x-1+cudaX.Y
sudo apt-get install libcudnn8-dev=8.9.5.29-1+cuda12.2
## 3. Install the code samples.
## sudo apt-get install libcudnn8-samples=8.x.x.x-1+cudaX.Y
sudo apt-get install libcudnn8-samples=8.9.5.29-1+cuda12.2

检查

sudo dpkg -l | grep cudnn

如图所示安装完成