pytorch性能分析工具Profiler

1. Torch Profiler工具先容

https://zhuanlan.zhihu.com/p/360479566
PyTorch Profiler 是一个开源工具，可以对大规模深度学习模型进行正确高效的性能分析。包罗如下等功能:

• 分析model的GPU、CPU的使用率
  
• 各种算子op的时间斲丧
  
• trace网络在pipeline的CPU和GPU的使用环境
  

Profiler使用Tensorboard可视化模型的性能，资助发现模型的瓶颈，比如CPU占用到达80%，阐明影响网络的性能重要是CPU，而不是GPU在模型的推理，各种kernel的运算的斲丧。此时通过模型的轻量化、以及剪枝等方式对模型的运行速率并没有资助，低落CPU的斲丧，代码的优化才是关键，从而避免在做一些无勤奋，资助我们对项目性能的优化。

   图1 性能的汇总  
   图2 op的时间占用环境  2. Profiler工具使用




来源：https://blog.csdn.net/weixin_38346042/article/details/130071989
免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！