1、前言
TensorRT 的安装需要配合cuda的使用,所以这里需要安装cuda和cudnn用于加速推理
TensorRT 就是神经网络专门用来加速的框架
之前训练yolov5项目的时候,我们只是配置了torch的GPU环境,没有专门安装cuda和cudnn,因为简单的训练、推理没必要cuda加速。
torch的GPU配置:Pytorch 配置 GPU 环境-CSDN博客
yolov5的环境配置:YOLOv5 项目:环境配置_yolo v5 环境-CSDN博客
而TensorRT需要cudnn的加速,所以本文介绍如何安装cuda和cudnn
2、CUDA 安装
链接:CUDA Toolkit Archive | NVIDIA Developer