昇腾社区首页
中文
注册

采集Profiling数据(acl.json配置文件方式)

通过运行应用工程可执行文件、调用acl.json文件,读取Profiling相关配置,从而自动采集性能原始数据。采集性能原始数据成功后,可将采集的原始数据取到装有Ascend-cann-toolkit开发套件包的开发环境上进行性能数据解析,展示性能数据解析结果。

关于应用工程编译、运行的详细方法,请参考应用软件开发指南 (C&C++)

使用该方法,务必调用aclInit()接口完成AscendCL初始化、和调用aclFinalize()完成AscendCL去初始化。

采集性能原始数据

参考以下步骤完成acl.json文件配置,并完成应用工程编译和运行:

  1. 打开工程文件,查看调用的aclInit()函数,获取acl.json文件路径。
    // ACL init
    const char *aclConfigPath = “../src/acl.json”;
    aclError ret = aclInit(aclConfigPath);
    if (ret != ACL_ERROR_NONE) {
        ERROR_LOG(“acl init failed”);
        return FAILED;
    }
    INFO_LOG(“acl init success”);

    如果aclInit()初始化为空,则需要修改该函数,补充步骤2创建的acl.json路径。

  2. 在查出的目录下修改acl.json文件(如不存在该文件,则需要新建,建议放在工程编译后的src目录下),添加Profiling相关配置,格式如下所示。
    {
    "profiler": {
                  "switch": "on",
                  "output": "output",
                  "aicpu": "on",
                }
    }
    profiler参数配置说明:
    • switch:Profiling开关,取值on或off。可选参数。

      on表示开启Profiling,off表示关闭Profiling;如果缺失该参数或参数值不为on,则表示关闭Profiling。

      acl.json配置文件方式开启Profiling开关后自动采集AscendCL、Runtime接口和Task Scheduler任务调度信息数据。

    • output:Profiling性能数据在运行环境上的落盘路径。可选参数。

      Profiling采集结束后,在该目录下生成PROF开头目录,存放Profiling采集的性能原始数据。支持配置绝对路径或相对路径(相对执行命令行时的当前路径):

      • 绝对路径配置以“/”开头,例如:/home/HwHiAiUser/output。
      • 相对路径配置直接以目录名开始,例如:output。
      • 该参数指定的目录需要确保安装时配置的运行用户具有读写权限。如果该处设置的目录没有读写权限,默认存放采集结果数据到应用工程可执行文件所在目录(确保安装时配置的运行用户具有该目录的读写权限)。
    • storage_limit:指定落盘目录允许存放的最大文件容量。当Profiling数据文件在磁盘中即将占满本参数设置的最大存储空间(剩余空间<=20MB)或剩余磁盘总空间即将被占满时(总空间剩余<=20MB),则将磁盘内最早的文件进行老化删除处理。

      单位为MB,取值范围为[200, 4294967295],默认未配置本参数。

      参数值配置格式为数值+单位,例如"storage_limit": "200MB"。

      未配置本参数时,不开启数据老化功能。仅Atlas 训练系列产品Atlas 推理系列产品支持。

    • aicpu:采集AICPU算子的详细信息,如:算子执行时间、数据拷贝时间等。可选on或off,默认值为off。可选参数。
    • aic_metrics:AI Core采集事件,默认值为PipeUtilization。可选参数。

      AI Core采集事件包括:ArithmeticUtilization、PipeUtilization、Memory、MemoryL0、 MemoryUB、ResourceConflictRatio。以上各参数值对应的详细采集指标请参见AI Core性能指标采集项说明

    • l2:控制L2采样数据的开关,可选on或off,默认为off。该参数配置前提是application参数已配置,仅Atlas 训练系列产品Atlas 推理系列产品支持。可选参数。
    • hccl:控制hccl数据采集开关,可选on或off,默认为off。该参数配置前提是application参数已配置。可选参数。
    • msproftx:控制msproftx用户和上层框架程序输出性能数据的开关,可选on或off,默认值为off。

      Profiling开启msproftx功能之前,需要在程序内调用msproftx相关接口来开启程序的Profiling数据流的输出,详细操作请参见Profiling AscendCL API for Extension(Profiling AscendCL API扩展接口)

  3. 配置acl.json完成后,参考应用软件开发指南 (C&C++)重新编译应用工程、并运行应用工程。

    “output”指定路径下生成Profiling性能原始数据,如图1所示。

    如果acl.json文件之前已经存在,本处仅仅是修改文件内容、添加Profiling相关配置,则不需要重新编译应用工程。

    图1 Profiling性能原始数据

采集数据说明

配置acl.json方式参数后生成的Profiling数据如表1表2所示。

表1 timeline文件介绍

timeline文件名

相关参数

说明

msprof_{device_id}_{model_id}_{iter_id}.json

all

timeline数据总表。对采集到的timeline性能数据按照迭代粒度进行性能展示。详情请参见timeline数据总表

ai_stack_time_{device_id}_{model_id}_{iter_id}.json

-

各个组件(ACL,GE,Runtime,Task Scheduler)的耗时。详情请参见各个组件的耗时数据说明

task_time_{device_id}_{model_id}_{iter_id}.json

-

Task Scheduler任务调度信息。文件详情请参见Task Scheduler任务调度信息数据说明

acl_{device_id}_{model_id}_{iter_id}.json

-

AscendCL接口耗时数据。文件详情请参见AscendCL接口耗时数据说明

runtime_api_{device_id}_{model_id}_{iter_id}.json

-

Runtime接口耗时数据。文件详情请参见Runtime接口耗时数据说明

ge_{device_id}_{model_id}_{iter_id}.json

-

GE接口耗时数据。文件详情请参见GE接口耗时数据说明

step_trace_{device_id}_{model_id}_{iter_id}.json

-

迭代轨迹数据,每轮迭代的耗时。文件详情请参见迭代轨迹数据说明

hccl_{device_id}_{model_id}_{iter_id}.json

hccl

HCCL数据。文件详情请参见HCCL数据说明

msproftx数据

msproftx

msproftx数据,通过Profiling AscendCL API for Extension(Profiling AscendCL API扩展接口)采集用户和上层框架程序的性能数据,并由msprof命令行的--msproftx参数进行数据导出。

注:{device_id}表示设备ID,{model_id}表示模型ID,{iter_id}表示某轮迭代的ID号。

表2 summary文件介绍

summary文件名

相关参数

说明

acl_{device_id}_{model_id}_{iter_id}.csv

-

AscendCL接口的耗时。详情请参见AscendCL接口耗时数据说明

acl_statistic_{device_id}_{model_id}_{iter_id}.csv

-

AscendCL接口调用次数及耗时。详情请参见AscendCL接口调用次数及耗时数据说明

op_summary_{device_id}_{model_id}_{iter_id}.csv

aic_metrics(可选)

aicpu(可选)不配置aicpu参数默认采集AI Core算子信息,配置本参数可增加采集AI CPU算子信息

AI Core数据,获取每个task的ai core metrics的耗时。详情请参见AI Core数据说明

op_statistic_{device_id}_{model_id}_{iter_id}.csv

aic_metrics(可选)

aicpu(可选)不配置aicpu参数默认采集AI Core算子信息,配置本参数可增加采集AI CPU算子信息

AI Core算子调用次数及耗时,从算子类型维度找出耗时最大的算子类型。详情请参见AI Core算子调用次数及耗时数据说明

step_trace_{device_id}_{model_id}_{iter_id}.csv

-

迭代轨迹数据。文件详情请参见迭代轨迹数据说明

ai_stack_time_{device_id}_{model_id}_{iter_id}.csv

-

每个组件(AscendCL,GE,Runtime,Task Scheduler)的耗时。详情请参见各个组件的耗时数据说明

runtime_api_{device_id}_{model_id}_{iter_id}.csv

-

每个runtime api的调用时长。详情请参见Runtime接口耗时数据说明

aicpu_{device_id}_{model_id}_{iter_id}.csv

aicpu

AI CPU数据。文件详情请参见AI CPU数据说明

fusion_op_{device_id}_{model_id}_{iter_id}.csv

-

模型中算子融合前后信息。详情请参见模型中算子融合前后信息数据说明

task_time_{device_id}_{model_id}_{iter_id}.csv

-

Task Scheduler的任务调度信息数据。详情请参见:

l2_cache_{device_id}_{model_id}_{iter_id}.csv

l2

L2Cache数据。详情请参见L2Cache数据说明(Atlas 推理系列产品与Atlas 训练系列产品)

Atlas 训练系列产品Atlas 推理系列产品会生成该文件。

prof_rule_0.json

-

调优建议。

注:{device_id}表示设备ID,{model_id}表示模型ID,{iter_id}表示某轮迭代的ID号。