graph dump功能

功能简介

TorchAir能够通过graph dump功能导出图结构信息,方便后续问题定位。

使用方法

当前导出的图结构信息支持txt、pbtxt、py三种格式,通过graph_dump.type指定。

graph_dump.type的默认值为“None”,默认不导出图结构信息。

若指定导出格式,默认在当前脚本所在工作目录下生成dynamo_original_graph_{timestamp}.{graph_dump.type}文件和dynamo_optimized_graph_{timestamp}.{graph_dump.type}文件,前者是模型原始图结构文件,后者是优化后的模型图结构文件。一旦模型执行异常(如模型精度不准确),可通过生成的图结构文件进行分析和定位。

  • 多次定义导出格式时,以最后一次定义的格式为准。
  • 不支持txt、pbtxt、py三种格式同时导出。
import torch_npu
import torchair as tng
config = tng.CompilerConfig()
# 设置导出图结构文件格式
config.debug.graph_dump.type = "pbtxt"
npu_backend = tng.get_npu_backend(compiler_config=config)