Dump

概述

系统支持在线推理过程中采集算子的Dump数据，即算子的输入/输出结果，之后用户可以通过精度比对工具进行算子精度分析。默认推理过程中不采集算子的Dump数据，如需采集，请参考如下方式修改。

sess.run模式下采集Dump数据

sess.run模式下，通过session配置enable_dump、dump_path、dump_mode配置Dump参数：

config = tf.ConfigProto()

custom_op =  config.graph_options.rewrite_options.custom_optimizers.add()
custom_op.name =  "NpuOptimizer"
custom_op.parameter_map["use_off_line"].b = True
# 是否开启dump功能
custom_op.parameter_map["enable_dump"].b = True
# dump数据存放路径。
custom_op.parameter_map["dump_path"].s = tf.compat.as_bytes("/tmp/") 
# dump模式，默认仅dump算子输出数据，还可以dump算子输入数据，取值：input/output/all
custom_op.parameter_map["dump_mode"].s = tf.compat.as_bytes("all") 
config.graph_options.rewrite_options.remapping = RewriterConfig.OFF

with tf.Session(config=config) as sess:
  print(sess.run(cost))

查看Data Dump数据

如果采集到了Data Dump数据，则会在{dump_path}/{time}/{deviceid}/{model_name}/{model_id}/{data_index}目录下生成dump文件，如举例的“/home/HwHiAiUser/output/20200808163566/0/ge_default_20200808163719_121/11/0”目录。同时在脚本当前目录生成GE图文件，例如ge_proto_xxxxx_Build.txt。

存放路径及文件命名规则：

• dump_path：用户配置的dump数据存放路径。例如/home/HwHiAiUser/output。
• time：时间戳，例如20200317020343。
• deviceid：Device设备ID号。
• model_name：子图名称。model_name层可能存在多个文件夹，算子dump数据对应计算图目录下的数据。
• model_id：子图ID。
• data_index：迭代数，用于保存对应迭代的dump数据。如果指定了dump_step，则data_index和dump_step一致；如果不指定dump_step，则data_index序号从0开始计数，每dump一个迭代的数据，序号递增1。
• dump文件：命名规则如{op_type}.{op_name}.{taskid}.{timestamp}
• 如果model_name、op_type、op_name出现了“.”、“/”、“\”、空格时，会转换为下划线表示。

Dump数据分析

请参考《精度比对工具使用指南》。