【问题】
把tensorflow模型转换成om模型后,模型推理可以正常进行,但是推理出来的结果与我使用tensorflow模型测试的结果不一致(左边的是开发板的推理结果,右边是tensorflow模型直接测试的结果)
【截图信息】

【可能原因】
fp16精度不够,模型转换,当算子同时支持fp16和fp32时,会强制选择fp16。
【解决办法】
1.使用命令行方式转换模型,添加一个参数 --precision_mode=allow_fp32_to_fp16
参考 https://support.huaweicloud.com/ti-atc-A200dk_3000/altasatc_16_003.html

2.若加参数还是无法解决,可能是算子内部计算错误,则需要进一步排查,使用精度比对工具分析出有误差的算子
https://support.huaweicloud.com/ti-maa-A200dk_3000/altasprecision_16_001.html
【问题】
把tensorflow模型转换成om模型后,模型推理可以正常进行,但是推理出来的结果与我使用tensorflow模型测试的结果不一致(左边的是开发板的推理结果,右边是tensorflow模型直接测试的结果)
【截图信息】
【可能原因】
fp16精度不够,模型转换,当算子同时支持fp16和fp32时,会强制选择fp16。
【解决办法】
1.使用命令行方式转换模型,添加一个参数 --precision_mode=allow_fp32_to_fp16
参考 https://support.huaweicloud.com/ti-atc-A200dk_3000/altasatc_16_003.html
2.若加参数还是无法解决,可能是算子内部计算错误,则需要进一步排查,使用精度比对工具分析出有误差的算子
https://support.huaweicloud.com/ti-maa-A200dk_3000/altasprecision_16_001.html