算子上板调优

算子调优工具支持上板环境下的性能数据采集和自动解析。
表1 参数说明

参数

描述

是否必选

op

开启算子调优。

--application

配置为运行环境上的指定可执行文件,可配置为绝对路径或者相对路径

说明:

不建议配置其他用户目录或其他用户可写目录下的AI任务,避免提权风险。

不建议配置删除文件或目录、修改密码、提权命令等有安全风险的高危操作。

是,二选一

--config

配置为输入算子二进制文件*.o的json文件,可配置为绝对路径或者相对路径

具体可参考json配置文件说明

--kernel-name

指定要采集的算子名称,如果不指定,则只对程序运行过程中调度的第一个算子进行采集。

需与--application配合使用,限制长度为1024,仅支持[A-Za-z0-9_]+的格式。

--aic-metrics

使能算子性能指标采集。支持以下性能指标采集项,默认全部采集。
  • ArithmeticUtilization
  • L2Cache
  • Memory
  • MemoryL0
  • MemoryUB
  • PipeUtilization
  • ResourceConflictRatio

可选其中的一项或多项,选多项时用英文逗号隔开,例如:--aic-metrics=Memory,MemoryL0

--output

收集到的性能数据的存放路径,默认在当前目录下保存性能数据。

--help

输出帮助信息。

算子上板调优可以通过以下两种方式执行:
命令完成后,会在默认路径或指定的“--output”目录下生成以“OPPROF_{timestamp}_XXX”命名的文件夹,在“--aic-metrics”全部开启时,结构示例如下:
OPPROF_20231201160906_KXXKOCCWXESVYBYE
├── dump
   ├── DeviceProf1.bin   
   ├── DeviceProf2.bin
   ├── DeviceProf3.bin
   ├── DeviceProf4.bin
   ├── DeviceProf5.bin
   ├── DeviceProf6.bin
   ├── duration.bin
   └── op_basic_info.txt
├── ArithmeticUtilization.csv
├── L2Cache.csv
├── Memory.csv
├── MemoryL0.csv
├── MemoryUB.csv
├── OpBasicInfo.csv
├── PipeUtilization.csv
└── ResourceConflictRatio.csv