昇腾社区首页
中文
注册

AI Core数据说明

请参见导出summary数据获取AI Core数据op_summary_{device_id}_{model_id}_{iter_id}.csv,其中{device_id}表示设备ID,{model_id}表示模型ID,{iter_id}表示某轮迭代的ID号。

  • 整网场景op_summary_{device_id}_{model_id}_{iter_id}.csv文件内容格式示例(示例仅展示部分参数,详情请参见表1)如下。

    导出的AI Core数据表文件列说明如下。

    表1 字段说明

    字段名

    字段解释

    Model Name

    模型名称。如果Model Name值为空,则可能为获取的数据中该值为空。

    Model ID

    模型ID。

    Task ID

    Task任务的ID号。

    Stream ID

    Stream任务的ID号。

    Infer ID

    标识第几轮推理数据。

    Op Name

    算子名称。

    OP Type

    算子类型。

    Task Type

    Task类型。

    Task Start Time

    Task开始时间。

    Task Duration

    Task耗时。包含调度时间,第一个核上最先开始时间到核上最晚结束时间,单位us。

    Task Wait Time

    上一个Task的结束时间与当前Task的开始时间间隔,单位us。

    Block Dim

    Task运行切分数量,对应Task运行时核数。

    Input Shapes

    算子的输入维度。

    Input Data Types

    算子输入数据类型。

    Input Formats

    算子输入数据格式。

    Output Shapes

    算子的输出维度。

    Output Data Types

    算子输出数据类型。

    Output Formats

    算子输出数据格式。

    aicore_time

    aicore上task执行耗时平均值,根据total_cycles与block dim计算,单位us。

    total_cycles

    该Task的所有指令的cycle总数。

    AI Core性能指标采集项说明请参考AI Core性能指标采集项说明

  • 单算子场景op_summary_{device_id}_{iter_id}.csv文件内容格式示例(示例仅展示部分参数,详情请参见表2)如下。

    导出的AI Core数据表文件列说明如下。
    表2 字段说明

    字段名

    字段解释

    Model ID

    模型ID。

    Task ID

    Task任务的ID号。

    Stream ID

    Stream任务的ID号。

    Op Name

    算子名称。

    OP Type

    算子类型。

    Task Type

    Task类型。

    Task Start Time

    Task开始时间。

    Task Duration

    Task耗时。包含调度时间,第一个核上最先开始时间到核上最晚结束时间,单位us。

    Task Wait Time

    上一个Task的结束时间与当前Task的开始时间间隔,单位us。

    Block Dim

    Task运行切分数量,对应Task运行时核数。

    Input Shapes

    算子的输入维度。

    Input Data Types

    算子输入数据类型。

    Input Formats

    算子输入数据格式。

    Output Shapes

    算子的输出维度。

    Output Data Types

    算子输出数据类型。

    Output Formats

    算子输出数据格式。

    aicore_time

    aicore上task执行耗时平均值,根据total_cycles与block dim计算,单位us。

    total_cycles

    该Task的所有指令的cycle总数。

    AI Core性能指标采集项说明请参考AI Core性能指标采集项说明

算子的输入维度Input Shapes取值为空,即表示为“; ; ; ;”格式时,表示当前输入的为标量,其中“;”为每个维度的分隔符。算子的输出维度同理。