TensorRT-下载及部署
1、下载前相关查询
查看显卡驱动版本:nvidia-smi
查看cuda版本:nvcc -V
cuda与显卡驱动对应表:https://docs.nvidia.com/cuda/cuda-toolkit-release-notes/index.html#title-new-features
TensorRT兼容性查询:https://docs.nvidia.com/deeplearning/tensorrt/release-notes/
2、TensorRT下载
可根据目前PC上的CUDA版本选择,也可根据上述TensorRT文档查询比较细的版本。
https://developer.nvidia.com/nvidia-tensorrt-download
3、TensorRT官方文档
https://docs.nvidia.com/deeplearning/tensorrt/developer-guide/index.html#c_topics
4、推理部署参考
使用C++部署TensorRT