一、TensorRT简介
NVIDIA TensorRT是一个用于高性能深度学习推理的平台。TensorRT适用于使用CUDA平台的所有NVIDIA GPU。所以如果需要基于TensorRT部署,至少需要一个NVIDIA显卡,算力5.0以上,比Maxwell更新的架构,可以参考下表。
CUDA GPUs - Compute Capability | NVIDIA Developerhttps://developer.nvidia.com/cuda-gpus#compute
需要安装cuda、cudnn。还用到了到了OpenCV,这里是基于TensorRT的c++的api。
二、TensorRT下载
1、TensorRT版本说明
EA version stands for early access (It is before actual release).
GA stands for general availability. GA is stable version and completely tested.