精度比对流程
精度比对总体流程如下:
图1 精度比对总体流程
- 环境准备。请参见环境准备。
- 比对数据准备。请参见比对数据准备。
- 推理场景:准备第三方框架原始模型的npy数据文件与离线模型的dump数据文件。
- 训练场景:准备基于GPU运行生成的第三方框架原始训练网络npy数据文件与基于昇腾AI处理器运行生成的训练网络dump数据和计算图文件。
- Tensor比对。请参见Tensor比对。
- 算子溢出分析,仅支持TensorFlow训练模型获取比对数据时使用(可选)。请参见算子溢出分析。
- 执行整网比对操作。请参见整网比对。
配置compare命令的相关比对参数。
- 工具执行比对操作输出比对结果。
- 比对结果专家建议(可选)。请参见比对结果专家建议。
- 根据分析结果定位具体问题算子。
- 执行单算子比对操作。请参见单算子比对。
- 分析单算子具体问题。