Dump数据对比

  1. 启动PrecisionTool交互命令行:
    python3 ./precision_tool/cli.py
  2. 进入交互命令行界面(如需退出,可执行ctrl + c):
    PrecisionTool >
  3. 使用vc -lt [left_path] -rt [right_path] -g [graph]命令进行整网数据对比:
    vc -lt precision_data/npu/debug_1/dump/20211016164504/1/ge_default_20211016164504_1/1/0 -rt precision_data/npu/debug_0/dump/20211016180613/1/ge_default_20211016180613_1/1/0

    在out_dir目录生成精度比对结果,可参考《TensorFlow 1.15模型迁移指南》的“整网精度比对结果文件说明”章节进行数据分析,打开目录下的csv文件,从上向下查找第一个输出余弦相似度小于0.98的算子。

  4. 针对以上结果,还可以使用precision_tool的ni (-n) [op_name] -g [graph] -a [attr] -s [save sub graph deep]命令进行单层数据比对分析,具体可参考《TensorFlow 1.15模型迁移指南》的“precision_tool命令参考”章节
  5. 当precision_data/npu/目录下同时存在debug_0和debug_1的时候,ni命令会同时解析两个文件夹下相同算子名的dump文件,从该解析结果中,可以比较直观的看出数据差异。

    Op为算子类型,以上图为例,算子名为trans_Cast_4940。