PyTorch

前提条件

完成模型开发&迁移中的PyTorch部分，得到可正常执行训练任务的GPU和NPU环境。

在执行性能数据采集前请先将训练脚本（main.py文件）中的PyTorch精度数据采集相关接口删除，因为精度数据采集和性能数据采集不可同时执行。

执行采集

在NPU环境下的训练脚本（main.py文件）中添加Ascend PyTorch Profiler接口工具，如下所示。

完整示例代码请参见Ascend PyTorch Profiler接口采集性能数据代码样例。

添加以下接口前，建议注释前面步骤的非训练脚本接口。

 23
import torch_npu
from torch_npu.contrib import transfer_to_npu
 26
...
   model.train()

   end = time.time()
   experimental_config = torch_npu.profiler._ExperimentalConfig(
       profiler_level=torch_npu.profiler.ProfilerLevel.Level0,
       data_simplification=False)
   with torch_npu.profiler.profile(
       activities=[
           torch_npu.profiler.ProfilerActivity.CPU,
           torch_npu.profiler.ProfilerActivity.NPU
           ],
       schedule=torch_npu.profiler.schedule(wait=0, warmup=0, active=1, repeat=1, skip_first=1),
       on_trace_ready=torch_npu.profiler.tensorboard_trace_handler("./profiling_data"),
       experimental_config=experimental_config) as prof:
       for i, (images, target) in enumerate(train_loader):
...
           # measure elapsed time
           batch_time.update(time.time() - end)
           end = time.time()
358
           prof.step()
...

以上仅提供简单示例，若需要配置更完整的采集参数以及对应接口详细介绍请参见《性能调优工具用户指南》中的“Ascend PyTorch Profiler”。
性能数据会占据一定的磁盘空间，可能存在磁盘写满导致服务器不可用的风险。性能数据所需空间跟模型的参数、采集开关配置、采集的迭代数量有较大关系，须用户自行保证落盘目录下的可用磁盘空间。

执行训练脚本命令，工具会采集模型训练过程中的性能数据。
```
python pytorch_main.py -a resnet50 -b 32 --gpu 1 --dummy
```

查看采集到的PyTorch训练性能数据结果文件。

训练结束后，在torch_npu.profiler.tensorboard_trace_handler接口指定的目录下生成Ascend PyTorch Profiler接口的性能数据结果目录，如下示例。

└── msprof_1784298_20250620085947065_ascend_pt
    ├── ASCEND_PROFILER_OUTPUT
    │   ├── kernel_details.csv
    │   ├── operator_details.csv
    │   ├── step_trace_time.csv
    │   └── trace_view.json
    ├── FRAMEWORK
...
    ├── PROF_000001_20250620085947066_FLRBJLNFMBIDRPMB
    │   ├── device_1
    │   │   ├── data
...
    │   ├── host
    │   │   ├── data
...
    │   ├── mindstudio_profiler_log
...
    │   └── mindstudio_profiler_output
    │       ├── api_statistic_20250620085954.csv
    │       ├── msprof_20250620085953.json
    │       ├── op_summary_20250620085954.csv
    │       ├── README.txt
    │       └── task_time_20250620085954.csv
    ├── profiler_info.json
    └── profiler_metadata.json

Ascend PyTorch Profiler接口采集的性能数据可以使用mstt的msprof-analyze工具进行辅助分析，也可以直接使用MindStudio Insight工具进行可视化分析，详细操作请参见使用msprof-analyze工具分析性能数据和使用MindStudio Insight工具可视化性能数据。

父主题： 性能数据采集