tensorrt的工作流程如下图：
-
首先定义网络
-
优化builder参数
-
通过builder生成engine,用于模型保存、推理等
-
engine可以通过序列化和逆序列化转化模型数据类型（转化为二进制byte文件，加快传输速率）
-
再进一步推动模型由输入张量到输出张量的推理
代码结构： -
定义 builder, config 和network，其中builder表示所创建的构建器，config表示创建的构建配置（指定TensorRT应该如何优化模型），network为创建的网络定义。
-
输入，模型结构和输出的基本信息（如下图所示）
-
生成engine模型文件
-
序列化模型文件并存储
// tensorRT include
#include 
