【Atlas200DK】【模型精度问题】om与tensorflow或caffe的推理结果有差异
收藏回复举报
【Atlas200DK】【模型精度问题】om与tensorflow或caffe的推理结果有差异
发表于2022-10-20 14:16:13
0 查看

【问题】

把tensorflow模型转换成om模型后,模型推理可以正常进行,但是推理出来的结果与我使用tensorflow模型测试的结果不一致(左边的是开发板的推理结果,右边是tensorflow模型直接测试的结果)

【截图信息】

【可能原因】

fp16精度不够,模型转换,当算子同时支持fp16和fp32时,会强制选择fp16。

【解决办法】

1.使用命令行方式转换模型,添加一个参数 --precision_mode=allow_fp32_to_fp16

参考 https://support.huaweicloud.com/ti-atc-A200dk_3000/altasatc_16_003.html

2.若加参数还是无法解决,可能是算子内部计算错误,则需要进一步排查,使用精度比对工具分析出有误差的算子

https://support.huaweicloud.com/ti-maa-A200dk_3000/altasprecision_16_001.html

本帖最后由 匿名用户2024/06/27 16:38:13 编辑

我要发帖子