ONNX转换到OM做推理,即使所有算子设置为fp32,推理精度仍然无法对齐
收藏回复举报
ONNX转换到OM做推理,即使所有算子设置为fp32,推理精度仍然无法对齐
发表于2023-11-29 01:12:42
0 查看

想将已有ReID的ONNX模型转换到OM格式用于推理,但是效果很差(mAP只有个位数)

尝试使用ait定位原因,发现可能是/gap/Pow算子问题

继续进行数次实验,将该算子、紧邻的其他算子、所有算子设置为fp32,精度仍然无法对齐

怀疑是否是Pow算子实现有bug?本人能力有限,希望获取大佬们的帮助,指导如何进行接下来的问题定位和修复

附件是我实验中通过ait得到的数个结果文件

result_20231128075022.xlsx    fp16精度模型

result_20231128162225.xlsx    /gap/Pow、/gap/GlobalAveragePool算子精度为fp32,其余算子精度为fp16

result_20231128163718.xlsx    /gap/Clip、/gap/Pow、/gap/GlobalAveragePool算子精度为fp32,其余算子精度为fp16

result_20231128164706.xlsx    所有算子精度为fp32

本帖最后由 匿名用户2023/11/29 16:55:48 编辑

我要发帖子