GE动/静态图展示
本章沿用Dynamo动/静态图展示提供的样例脚本test_compile.py。运行该脚本,通过TorchAir的编译日志或Dump的GE build图来判断编译后的图是否完全静态下沉调度。
Dump GE图参见《CANN 环境变量参考》中的“DUMP_GE_GRAPH”章节,dump的图文件一般为txt、pbtxt两种格式,txt文件比pbtxt文件多保存了一些属性信息,pbtxt文件可使用Netron等可视化软件打开。
- txt格式判断:build图中如果存在graph的_graph_unknown_flag属性值,且取值为true则为非完全静态下沉调度,否则为完全静态下沉调度。
- pbtxt:下面分别提供不同场景下的图信息展示,其中GE build图通过可视化的pbtxt格式展示。
dynamic=True,GE编译结果为动态shape图
dynamic=True且对输入mark_static,GE编译结果为静态shape图
本场景与dynamic=False,GE编译结果为静态shape图均为GE静态shape图,但图结构不同,本图多了一个Cast节点。原因是TorchAir Converter会将torch.SymInt(即dynamic=True且对输入mark_static,Dynamo编译结果为静态图中原生FX图结构里的input 4: s0)转换为DT_INT64类型,而后续计算是DT_FLOAT格式,因此需通过Cast将数据从DT_INT64转换为DT_FLOAT。
父主题: 动/静态图展示


