ArithmeticUtilization(Cube及Vector类型指令耗时和占比)
Cube及Vector类型指令的cycle占比数据ArithmeticUtilization.csv,建议优化算子逻辑,减少冗余计算指令。详情介绍请参见下表中的字段说明。
Atlas A3 训练系列产品
/
Atlas A3 推理系列产品
及
Atlas A2 训练系列产品
/
Atlas 800I A2 推理产品
/A200I A2 Box 异构组件

字段名 |
字段解释 |
---|---|
block_id |
Task运行切分数量,对应Task运行时配置的核数。 |
sub_block_id |
Block上Vector\Cube核的ID。 |
aic_time(us) |
该Task被分配到每个AI Cube Core计算单元上后,每个AI Cube Core计算单元上的执行时间,单位us。 |
aic_total_cycles |
该Task被分配到每个AI Cube Core计算单元上后,每个AI Cube Core计算单元上的执行的cycle总数。 |
aiv_time(us) |
该Task被分配到每个AI Vector Core计算单元上后,每个AI Vector Core计算单元上的执行时间,单位us。 |
aiv_total_cycles |
该Task被分配到每个AI Vector Core计算单元上后,每个AI Vector Core计算单元上的执行的cycle总数。 |
aic_cube_ratio |
代表Cube单元指令的cycle数在total cycle数中的占用比。 |
aic_cube_fp16_ratio |
代表Cube fp16类型指令的cycle数在total cycle数中的占用比。 |
aic_cube_int8_ratio |
代表Cube int8类型指令的cycle数在total cycle数中的占用比。 |
aic_cube_fops |
代表Cube类型的浮点运算数,即计算量,可用于衡量算法/模型的复杂度,其中fops表示floating point operations。 |
aic_cube_total_instr_number |
代表Cube指令的总条数,包括fp和int类型。 |
aic_cube_fp_instr_number |
代表Cube fp类型指令的总条数。 |
aic_cube_int_instr_number |
代表Cube int类型指令的总条数。 |
aiv_vec_ratio |
代表Vec单元指令的cycle数在total cycle数中的占用比。 |
aiv_vec_fp32_ratio |
代表Vec fp32类型指令的cycle数在total cycle数中的占用比。 |
aiv_vec_fp16_ratio |
代表Vec fp16类型指令的cycle数在total cycle数中的占用比。 |
aiv_vec_int32_ratio |
代表Vec int32类型指令的cycle数在total cycle数中的占用比。 |
aiv_vec_int16_ratio |
代表Vec int16类型指令的cycle数在total cycle数中的占用比。 |
aiv_vec_misc_ratio |
代表Vec misc类型指令的cycle数在total cycle数中的占用比。 |
aiv_vec_fops |
代表Vector类型浮点运算数,即计算量,可用于衡量算法/模型的复杂度,其中fops表示floating point operations。 |
Atlas 推理系列产品

字段名 |
字段解释 |
---|---|
aic_time(us) |
该Task被分配到每个AI Core计算单元上后,每个AI Core计算单元上的执行时间,单位us。 |
aic_total_cycles |
该Task被分配到每个AI Core计算单元上后,每个AI Core计算单元上的执行的cycle总数。 |
aic_cube_ratio |
代表Cube单元指令的cycle数在total cycle数中的占用比。 |
aic_cube_fp16_ratio |
代表Cube fp16类型指令的cycle数在total cycle数中的占用比。 |
aic_cube_int8_ratio |
代表Cube int8类型指令的cycle数在total cycle数中的占用比。 |
aic_cube_fops |
代表Cube类型的浮点运算数,即计算量,可用于衡量算法/模型的复杂度,其中fops表示floating point operations。 |
aic_cube_total_instr_number |
代表Cube指令的总条数,包括fp和int类型。 |
aic_vec_ratio |
代表Vec单元指令的cycle数在total cycle数中的占用比。 |
aic_vec_fp32_ratio |
代表Vec fp32类型指令的cycle数在total cycle数中的占用比。 |
aic_vec_fp16_ratio |
代表Vec fp16类型指令的cycle数在total cycle数中的占用比。 |
aic_vec_int32_ratio |
代表Vec int32类型指令的cycle数在total cycle数中的占用比。 |
aic_vec_int16_ratio |
代表Vec int16类型指令的cycle数在total cycle数中的占用比。 |
aic_vec_misc_ratio |
代表Vec misc类型指令的cycle数在total cycle数中的占用比。 |
aic_vec_fops |
代表Vector类型浮点运算数,即计算量,可用于衡量算法/模型的复杂度,其中fops表示floating point operations。 |