本次实验搭配的环境是 CUDA 11.6 + CUDNN v8.9.4 + TensorRT-8.4.1.5 + mindspore 2.1.0。
1、配置 Nvidia 显卡驱动

如果原来的主机已经安装了 nvidia 驱动，为避免版本的冲突，建议先清除掉旧的 nvidia驱动

sudo apt-get --purge remove nvidia*
sudo apt autoremove
sudo apt-get --purge remove "*cublas*" "cuda*"
sudo apt-get --purge remove "*nvidia*"

sudo apt-get install linux-headers-$(uname -r)

关闭系统自带驱动nouveau，执行 sudo gedit /etc/modprobe.d/blacklist.conf 在末尾追加

blacklist nouveau
options nouveau modeset=0
sudo update-initramfs -u

安装NVIDIA驱动 下载地址

chmod a+x NVIDIA-Linux-x86_64-535.104.05.run 
./NVIDIA-Linux-x86_64-535.104.05.run -no-x-check -no-nouveau-check -no-opengl-files
sudo bash ./NVIDIA-Linux-x86_64-535.104.05.run -no-x-check -no-nouveau-check -no-opengl-files

安装之后先重启主机 （执行 sudo reboot），然后检查驱动(执行nvidia-smi)是否安装成功

出现图示结果代表驱动安装成功

2、安装 CUDA-11.6

## 先安装CUDA前需要先安装相关依赖，执行以下命令
sudo apt-get install linux-headers-$(uname -r) 
wget https://developer.download.nvidia.com/compute/cuda/11.6.0/local_installers/cuda_11.6.0_510.39.01_linux.run
sudo sh cuda_11.6.0_510.39.01_linux.run
echo -e "export PATH=/usr/local/cuda-11.6/bin:\$PATH" >> ~/.bashrc
echo -e "export LD_LIBRARY_PATH=/usr/local/cuda-11.6/lib64:\$LD_LIBRARY_PATH" >> ~/.bashrc
source ~/.bashrc

安装之后执行 nvcc --version 命令检查会输出以下提示

3、安装 CUDA-11.6配套的cuDNN v8.9.4

tar -xvf cudnn-linux-x86_64-8.9.4.25_cuda11-archive.tar
sudo cp cudnn-linux-x86_64-8.9.4.25_cuda11-archive/include/cudnn*.h /usr/local/cuda-11.6/include
sudo cp cudnn-linux-x86_64-8.9.4.25_cuda11-archive/lib64/libcudnn* /usr/local/cuda-11.6/lib64
sudo chmod a+r /usr/local/cuda-11.6/include/cudnn*.h /usr/local/cuda-11.6/lib64/libcudnn*

检查 CUDNN 是否安装成功

cat /usr/local/cuda-11.6/include/cudnn_version.h | grep CUDNN_MAJOR -A 2

输出上图结果表示配置成功，这里版本好是8.9.4

4、安装 minconda
下载可以从清华镜像源选择下载

wget https://mirrors.tuna.tsinghua.edu.cn/anaconda/miniconda/Miniconda3-py39_4.9.2-Linux-x86_64.sh
chmod a+x Miniconda3-py39_4.9.2-Linux-x86_64.sh 
bash Miniconda3-py39_4.9.2-Linux-x86_64.sh 
. ~/miniconda3/etc/profile.d/conda.sh

使用 conda 创建 mindspore 虚拟环境

conda init bash
conda create -n mindspore_py37 python=3.7.5 -y
conda activate mindspore_py37

设置 pip 源，这里可以选择清华源或者华为源，二选一。

python -m pip install --upgrade pip
pip config set global.index-url https://pypi.tuna.tsinghua.edu.cn/simple
pip config set global.index-url https://repo.huaweicloud.com/repository/pypi/simple

5、安装 TensorRT-8.4.1.5 下载地址

tar -xvf TensorRT-8.4.1.5.Linux.x86_64-gnu.cuda-11.6.cudnn8.4.tar.gz 
cd TensorRT-8.4.1.5/
echo -e "export TENSORRT_HOME=$PWD" >> ~/.bashrc
echo -e "export LD_LIBRARY_PATH=\$TENSORRT_HOME/lib:\$LD_LIBRARY_PATH" >> ~/.bashrc
source ~/.bashrc

通过 .whl 包安装 python 版本 tensorrt

cd $TENSORRT_HOME/python
pip install tensorrt-8.4.1.5-cp37-none-linux_x86_64.whl

执行测试

python -c "import tensorrt;print(tensorrt.__version__)"

6、安装 mindspore 2.1.0

export MS_VERSION=2.1.0
conda activate mindspore_py37
pip install https://ms-release.obs.cn-north-4.myhuaweicloud.com/${MS_VERSION}/MindSpore/unified/x86_64/mindspore-${MS_VERSION/-/}-cp37-cp37m-linux_x86_64.whl --trusted-host ms-release.obs.cn-north-4.myhuaweicloud.com -i https://pypi.tuna.tsinghua.edu.cn/simple

mindspore GPU 检查

python -c "import mindspore;mindspore.set_context(device_target='GPU');mindspore.run_check()"

7、 jupyter lab mindspore 环境管理

在 base 环境下安装 Jupyter Lab

conda activate base
conda install jupyter ipykernel

在 mindspore_py37 中安装 ipykernel

conda activate mindspore_py37
conda install ipykernel

将conda环境写入jupyter的kernel中
–name 环境名称
–display-name 在jupyter notebook看到的别名

python -m ipykernel install --user  --name mindspore_py37 --display-name "mindspore_py37"

运行 jupyter lab

conda activate base
jupyter lab

讲 kernel 切换成 mindspore_py37 就可以在 Notebook 下使用 mindspore 进行脚本运行了

参考：

• https://blog.csdn.net/wm9028/article/details/110268030
• https://gitee.com/mindspore/docs/blob/master/install/mindspore_gpu_install_pip.md#%E5%AE%89%E8%A3%85cuda
• https://blog.csdn.net/weixin_37926734/article/details/123033286
• https://zhuanlan.zhihu.com/p/370024835