本文章针对 Windows 10 系统

CUDA CuDNN的安装： 参考文章

---

TensorRT 环境安装与配置

下载链接 TensorRT

本文章针对 Windows10、CUDA10.2 的PC，选择相对应的安装包完成下载。

---

解压后在 ./TensorRT-version/python 路径下找到 .whl 文件。（cp37 表示 python_version == 3.7）

conda activate condaEnv
# 按照虚拟环境中的 python 版本选择安装对应的安装包
pip install tensorrt-8.5.3.1-cp37-none-win_amd64.whl

安装完成后，将 ./TensorRT-version/lib 路径下的所有文件复制到 C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.2\bin CUDA 安装目录下。

zlibwapi.dll 安装与配置

CUDA 11.6 版本对应的 PyTorch 默认安装，可忽略该步骤

下载链接 zlibwapi

选择 AMD64/Intel_EM64T 完成下载

将 ./zlib123dllx64/dll_x64/zlibwapi.dll 文件复制到 C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.2\bin CUDA 安装目录下。

TensorRT 实现

git clone https://github.com/ultralytics/yolov5
cd yolov5
pip install -r requirements.txt

# Transfer .pt to .engine(TensorRT)
python export.py --weights yolov5s.pt --include engine --device 0

python detect.py --weights yolov5s.engine --source 0