昇腾社区首页
中文
注册

Profiling方式

Profiling针对开发者的差异化需求,本章提供了推理场景下多种方式的性能数据采集方案。Profiling各采集方式包括

  • msprof命令行方式
  • acl.json配置文件方式
  • 调用AscendCL API方式
  • 调用pyACL API方式

同时启用多种采集方式时,有且仅有一种使能方式可以生效。但为了避免不必要的错误,不建议同时使用多种不同的采集方式。

如果使用AscendCL API方式,需要确保acl.json配置文件中的Profiling开关设置为off。

采集应用工程或算子工程的Profiling数据会影响部分由软件记录的数据的准确性,例如算子的调度时间。其中API方式相较于其他方式影响更小。

msprof命令行方式(推荐)

msprof命令行工具不仅可以解析采集到的性能数据,且该方式提供了完整的性能数据采集能力(更多的数据类型)。

推荐使用msprof命令行工具完成性能调优全过程。

msprof命令行工具详细介绍请参见:msprof命令行方式

acl.json配置文件方式

配置文件方式,支持Profiling与其他组件的统一配置。

缺点:仅支持离线推理场景且需要修改配置文件。

acl.json配置文件方式详细介绍请参见:acl.json方式

调用AscendCL API方式

最灵活的Profiling数据采集方案,提供定制化的性能数据采集能力。

缺点:仅支持离线推理场景且需要在应用程序中调用Profiling相关接口。

调用AscendCL API方式详细介绍请参见:调用AscendCL API方式

调用pyACL API方式

AscendCL API的Python封装版本。

缺点:仅支持离线推理场景且需要在应用程序中调用Profiling相关接口。

调用pyACL API方式详细介绍请参见:调用pyACL API方式