msprof支持采集AI任务运行时相关的性能数据，并且在采集后可以自动进行性能数据解析和文件落盘。
登录Ascend-cann-toolkit开发套件包所在环境，执行以下命令采集性能数据。命令示例如下：
msprof --output=/home/projects/output --ascendcl=on --runtime-api=on --task-time=on --aicpu=on --ai-core=on /home/projects/MyApp/out/main
命令支持的参数请参考表1，采集AI任务运行性能数据时必须传入用户程序。
命令执行完成后，在output指定的目录下生成PROF_XXX目录，存放自动解析后的性能数据，相关结果文件请参见表1。
登录运行环境，进入msprof工具所在目录“/var”，执行以下命令采集性能数据。命令示例如下：
./msprof --output=/home/projects/output --ascendcl=on --runtime-api=on --task-time=on --ai-core=on /home/projects/MyApp/out/main
命令支持的参数请参考表1，采集AI任务运行性能数据时必须传入用户程序。
命令执行完成后，在output指定的目录下生成PROF_XXX目录，该目录下的文件未经解析无法查看，您需要将PROF_XXX目录上传到安装toolkit包的开发环境进行数据解析，具体操作方法请参见性能数据解析与导出（msprof命令），最终生成的结果文件请参见表1。
参数 |
描述 |
支持的型号 |
结果文件 |
|---|---|---|---|
--ascendcl |
控制AscendCL性能数据采集的开关，可选on或off，默认为on。 可采集AscendCL性能数据，包括Host与Device之间、Device间的同步异步内存复制时延等。 |
Atlas 200/300/500 推理产品 Atlas 200I/500 A2推理产品 Atlas 推理系列产品 Atlas 训练系列产品 Atlas A2训练系列产品/Atlas 800I A2推理产品 |
|
--model-execution |
控制ge model execution性能数据采集开关，可选on或off，默认为on。 说明：
此开关后续版本会废弃，请使用--task-time开关控制相关数据采集。 |
Atlas 200/300/500 推理产品 Atlas 200I/500 A2推理产品 Atlas 推理系列产品 Atlas 训练系列产品 Atlas A2训练系列产品/Atlas 800I A2推理产品 |
|
--runtime-api |
控制runtime api性能数据采集开关，可选on或off，默认为off。可采集runtime-api性能数据，包括Host与Device之间、Device间的同步异步内存复制时延等。 |
Atlas 200/300/500 推理产品 Atlas 200I/500 A2推理产品 Atlas 推理系列产品 Atlas 训练系列产品 Atlas A2训练系列产品/Atlas 800I A2推理产品 |
|
--hccl |
控制HCCL数据采集开关，可选on或off，默认为off。该数据只在多卡、多节点或集群场景下生成。 说明：
此开关后续版本会废弃，请使用--task-time开关控制相关数据采集。 |
Atlas 200/300/500 推理产品 Atlas 200I/500 A2推理产品 Atlas 推理系列产品 Atlas 训练系列产品 Atlas A2训练系列产品/Atlas 800I A2推理产品 |
|
--task-time |
控制采集算子下发耗时和算子执行耗时的开关。涉及在task_time、op_summary、op_statistic等文件中输出相关耗时数据。配置值：
|
Atlas 200/300/500 推理产品 Atlas 200I/500 A2推理产品 Atlas 推理系列产品 Atlas 训练系列产品 Atlas A2训练系列产品/Atlas 800I A2推理产品 |
msprof_*.json中的CANN层级和api_statistic_*.csv文件 msprof_*.json中的Ascend Hardware层级和task_time_*.csv文件 |
--aicpu |
采集AICPU算子的详细信息，如：计算耗时、数据拷贝耗时等。可选on或off，默认值为off。 |
Atlas 200/300/500 推理产品 Atlas 200I/500 A2推理产品 Atlas 推理系列产品 Atlas 训练系列产品 Atlas A2训练系列产品/Atlas 800I A2推理产品 |
|
--ai-core |
控制AI Core、AI Vector Core数据采集的开关，。 取值可选on或off，--task-time配置为on、l1时，默认为on；--task-time配置为off、l0时，默认为off。
|
Atlas 200/300/500 推理产品 Atlas 200I/500 A2推理产品 Atlas 推理系列产品 Atlas 训练系列产品 Atlas A2训练系列产品/Atlas 800I A2推理产品 |
|
--aic-mode |
AI Core、AI Vector Core硬件的采集类型，可选值task-based或sample-based。该参数配置前提是ai-core参数设置为on。 task-based是以task为粒度进行性能数据采集，sample-based是以固定的时间周期进行性能数据采集，采集AI任务性能数据时建议使用task-based，如果不配置默认为task-based。 |
Atlas 200/300/500 推理产品 Atlas 200I/500 A2推理产品 Atlas 推理系列产品 Atlas 训练系列产品 Atlas A2训练系列产品/Atlas 800I A2推理产品 |
- |
--aic-freq |
sample-based场景下的采样频率，默认值100，范围1~100，单位hz。该参数配置前提是ai-core参数设置为on。 |
Atlas 200/300/500 推理产品 Atlas 200I/500 A2推理产品 Atlas 推理系列产品 Atlas 训练系列产品 Atlas A2训练系列产品/Atlas 800I A2推理产品 |
- |
--aic-metrics |
AI Core、AI Vector Core性能指标采集项。该参数配置前提是ai-core参数设置为on。 取值包括：
说明：
支持自定义需要采集的寄存器，例如：--aic-metrics=Custom:0x49,0x8,0x15,0x1b,0x64,0x10。
|
Atlas 200/300/500 推理产品 Atlas 200I/500 A2推理产品 Atlas 推理系列产品 Atlas 训练系列产品 Atlas A2训练系列产品/Atlas 800I A2推理产品 |
|
--sys-hardware-mem |
任务级别的片上内存采集开关，可选on或off，默认为off。 说明：
已知在安装有glibc<2.34的环境上采集memory数据，可能触发glibc的一个已知Bug 19329，通过升级环境的glibc版本可解决此问题。 |
Atlas 200/300/500 推理产品 Atlas 200I/500 A2推理产品 Atlas 推理系列产品 Atlas 训练系列产品 Atlas A2训练系列产品/Atlas 800I A2推理产品 不同产品支持情况不同，请以实际实现为准。 |
|
--sys-hardware-mem-freq |
任务级别的片上内存信息采集频率，范围[1,100]，默认值为50，单位hz。 设置该参数需要sys-hardware-mem参数设置为on。 |
Atlas 200/300/500 推理产品 Atlas 200I/500 A2推理产品 Atlas 推理系列产品 Atlas 训练系列产品 Atlas A2训练系列产品/Atlas 800I A2推理产品 |
- |
--l2 |
采集L2 Cache命中率，可选on或off，默认为off。
|
Atlas 200I/500 A2推理产品 Atlas 推理系列产品 Atlas 训练系列产品 Atlas A2训练系列产品/Atlas 800I A2推理产品 |