API信息统计数据

API信息统计数据api_statistic_*.csv,用于统计CANN层的API执行耗时信息。

api_statistic_*.csv文件内容格式示例如下。

上图根据Time列进行降序排列,找出耗时最长的TopN算子;也可以根据最大、最小、平均耗时、方差等信息判断该算子运行是否稳定或者是否存在某次调用耗时较长的情况。

图中数据分别由不同的开关控制:AscendCL层级数据由--ascendcl开关控制;Runtime层级数据由--runtime-api开关控制;HCCL层级数据由--hccl开关控制;其他层级数据由--task-time开关控制。仅以msprof命令行工具的参数为例,其他采集方式对应相同参数。

关键字段说明如下。

表1 字段说明

参数名

参数解释

Level

API所属层级,包含AscendCL、Runtime、Node、Model、HCCL层级的API。

API Name

API名称。

Time(us)

总耗时,单位us。

Count

调用次数。

Avg(us)

耗时平均值,单位us。

Min(us)

最小耗时,单位us。

Max(us)

最大耗时,单位us。

Variance

耗时方差。