注册账号

https://developer.nvidia.com/rdp/cudnn-archive
该网站下载安装包需要先进行注册。登录成功后，找到与CUDA对应的版本。
选择Linux版本进行下载。
下载后的格式为.tar.xz
解压

tar xvJf cudnn-linux-x86_64-8.9.3.28_cuda12-archive.tar.xz

配置环境

sudo cp cudnn-linux-x86_64-8.9.3.28_cuda12-archive/include/cudnn_version.h /usr/local/cuda-12.0/include/
sudo cp cudnn-linux-x86_64-8.9.3.28_cuda12-archive/lib/libcudnn* /usr/local/cuda-12.0/lib64/
sudo chmod a+r /usr/local/cuda-12.0/include/cudnn_version.h 
sudo chmod a+r /usr/local/cuda-12.0/lib64/libcudnn*

查看cuDNN版本

cat /usr/local/cuda/include/cudnn_version.h | grep CUDNN_MAJOR -A 2