离线推理场景性能分析

前提条件

• 请确保完成使用前准备。
• 参考《应用软件开发指南（C&C++）》编写应用程序，或者从[Gitee]或[Github]仓上下载样例程序，并且能够在昇腾AI处理器上执行成功。

  首次使用可以选取一个简单的图片分类推理应用进行尝试，参考README成功编译并运行该应用，然后参考以下步骤采集、解析并导出性能数据。

采集、解析并导出性能数据

1. 执行msprof命令一键式采集、解析并导出性能数据。

   msprof --application=/home/HwHiAiUser/HIAI_PROJECTS/MyAppname/out/main --output=/home/HwHiAiUser/profiling_output

   表1 常用参数说明

   参数	描述	可选/必选
   --application	配置为运行环境上AI任务文件。 不建议配置其他用户目录下的AI任务，避免提权风险。 不建议使用此参数进行有安全风险的高危操作，如删除文件或目录、修改密码、提权命令等。	必选
   --output	收集到的Profiling数据的存放路径，默认为AI任务文件所在目录。	可选

   默认情况下，导出迭代数最多的模型ID（Model ID）对应的第一轮迭代的性能数据。

   

   以上为最基本的采集命令，如有其他采集需求，请参见msprof命令行工具。

2. 命令执行完成后，在output指定的目录下生成PROF_XXX目录，存放采集并解析后的性能数据，目录结构如图1所示。
   图1 性能数据目录结构（仅为示例）
   
   • data/sqlite文件夹为采集和解析的过程数据，一般无需关注。
   • log文件夹为日志文件，一般无需关注。
   • summary文件夹汇总了AI任务运行时的软硬件数据。
   • timeline文件夹汇总了AI任务运行的时序信息。

3. 进入summary和timeline目录，查看性能数据文件。

   默认情况下采集到的文件请参考表2。

   表2 msprof默认配置采集的性能数据文件

   文件夹	文件名	说明
   timeline	msprof*.json	timeline数据总表。
   	acl_*.json	AscendCL接口调用时序。训练场景不生成。
   	ai_stack_time_*.json	昇腾AI软件栈各组件（AscendCL，GE，Runtime，Task Scheduler等）运行时序。
   	ge_*.json	GE接口耗时数据。
   	step_trace_*.json	迭代轨迹数据，每轮迭代的耗时。
   	task_time_*.json	Task Scheduler任务调度时序。
   	thread_group_*.json	AscendCL，GE，Runtime组件耗时数据。
   	ge_op_execute_*.json	算子下发各阶段耗时数据。当模型为动态Shape时自动采集并生成该文件。
   summary	acl_*.csv	AscendCL API调用过程。训练场景不生成。
   	acl_statistic_*.csv	AscendCL API数据统计。训练场景不生成。
   	op_summary_*.csv	AI Core和AI CPU算子数据。
   	op_statistic _*.csv	AI Core和AI CPU算子调用次数及耗时统计。
   	step_trace_*.csv	迭代轨迹数据。
   	task_time_*.csv	Task Scheduler任务调度信息。
   	ai_stack_time_*.csv	昇腾AI软件栈各组件（AscendCL，GE，Runtime，Task Scheduler等）信息。
   	fusion_op_*.csv	模型中算子融合前后信息。
   	ge_op_execute_*.csv	算子下发各阶段耗时数据。当模型为动态Shape时自动采集并生成该文件。
   	prof_rule_0.json	调优建议。
   注：“*”表示{device_id}_{model_id}_{iter_id}，其中{device_id}表示设备ID，{model_id}表示模型ID，{iter_id}表示某轮迭代的ID。

   • timeline文件后缀为json，需要在Chrome浏览器中输入chrome://tracing，将文件拖到空白处进行打开，通过键盘上的快捷键（w：放大，s：缩小，a：左移，d：右移）。通过该文件可查看当前AI任务运行的时序信息，比如运行过程中接口调用时间线，如图2所示。
     图2 查看timeline文件
     
   • summary文件后缀为csv，可直接打开查看。通过该文件可以看到AI任务运行时的软硬件数据，比如各算子在AI处理器软硬件上的运行耗时，通过字段排序等可以快速找出需要的信息，如图3所示。
     图3 查看summary文件
     

性能分析

从上文我们可以看到，性能数据文件较多，分析方法也较灵活，以下介绍几个重要文件及分析方法。

• 通过msprof*.json文件从整体角度查看AI任务运行的时序信息，进而分析出可能存在的瓶颈点。
  图4 msprof*.json文件示例
  

  • 区域1：CANN层数据，主要包含AscendCL、GE和Runtime组件的耗时数据。
  • 区域2：底层NPU数据，主要包含Task Scheduler组件耗时数据、迭代轨迹数据。
  • 区域3：展示timeline中各算子、接口的详细信息，单击区域1和区域2中各timeline时展示。

  从上图可以大致分析出AI任务在哪个阶段耗时较多，比如发现区域1的AscendCL aclmdlExecute接口执行阶段耗时较多，可以继续查看区域2的Task Scheduler任务调度信息，分析执行推理过程中具体耗时较长的任务，查看区域3的耗时较长的接口和算子，再结合summary文件进行量化分析，定位出具体的性能瓶颈。

• 通过op_statistic_*.csv文件分析各类算子的调用总时间、总次数等，排查是否某类算子总耗时较长，进而分析这类算子是否有优化空间。
  图5 op_statistic_*.csv文件示例
  

  可以按照Total Time排序，找出哪类算子耗时较长。

• 通过op_summary_*.csv文件分析具体某个算子的信息和耗时情况，从而找出高耗时算子，进而分析该算子是否有优化空间。
  图6 op_summary*.csv文件示例
  

  Task Duration字段为算子耗时信息，可以按照Task Duration排序，找出高耗时算子；也可以按照Task Type排序，查看不同核（AI Core和AI CPU）上运行的高耗时算子。