1. Torch Profiler工具介绍
https://zhuanlan.zhihu.com/p/360479566
PyTorch Profiler 是一个开源工具，可以对大规模深度学习模型进行准确高效的性能分析。包括如下等功能:
- 分析model的GPU、CPU的使用率
- 各种算子op的时间消耗
- trace网络在pipeline的CPU和GPU的使用情况
Profiler利用Tensorboard可视化模型的性能，帮助发现模型的瓶颈，比如CPU占用达到80%，说明影响网络的性能主要是CPU，而不是GPU在模型的推理，各种kernel的运算的消耗。此时通过模型的轻量化、以及剪枝等方式对模型的运行速度并没有帮助，降低CPU的消耗，代码的优化才是关键，从而避免在做一些无用功，帮助我们对项目性能的优化。
