精度比对流程
精度比对总体流程如下:
图1
精度比对总体流程
环境准备。请参见
环境准备
。
比对数据准备。请参见
比对数据准备
。
推理场景:准备第三方框架原始模型的npy数据文件与离线模型的dump数据文件。
训练场景:准备基于GPU运行生成的第三方框架原始训练网络npy数据文件与基于
昇腾AI处理器
运行生成的训练网络dump数据和计算图文件。
Tensor比对。请参见
Tensor比对
。
执行整网比对操作。
开启MindStudio的
“
Ascend > Model Accuracy Analyzer
”
功能,将准备好的比对数据文件配置到对应参数下并配置具体比对参数。
MindStudio执行比对操作并输出比对结果。
比对结果专家建议(可选)。请参见
比对结果专家建议
。
根据分析结果定位具体问题算子。
执行单算子比对操作。
分析单算子具体问题。
父主题:
精度比对