想将已有ReID的ONNX模型转换到OM格式用于推理,但是效果很差(mAP只有个位数)
尝试使用ait定位原因,发现可能是/gap/Pow算子问题
继续进行数次实验,将该算子、紧邻的其他算子、所有算子设置为fp32,精度仍然无法对齐
怀疑是否是Pow算子实现有bug?本人能力有限,希望获取大佬们的帮助,指导如何进行接下来的问题定位和修复
附件是我实验中通过ait得到的数个结果文件
result_20231128075022.xlsx fp16精度模型
result_20231128162225.xlsx /gap/Pow、/gap/GlobalAveragePool算子精度为fp32,其余算子精度为fp16
result_20231128163718.xlsx /gap/Clip、/gap/Pow、/gap/GlobalAveragePool算子精度为fp32,其余算子精度为fp16
result_20231128164706.xlsx 所有算子精度为fp32
想将已有ReID的ONNX模型转换到OM格式用于推理,但是效果很差(mAP只有个位数)
尝试使用ait定位原因,发现可能是/gap/Pow算子问题
继续进行数次实验,将该算子、紧邻的其他算子、所有算子设置为fp32,精度仍然无法对齐
怀疑是否是Pow算子实现有bug?本人能力有限,希望获取大佬们的帮助,指导如何进行接下来的问题定位和修复
附件是我实验中通过ait得到的数个结果文件
result_20231128075022.xlsx fp16精度模型
result_20231128162225.xlsx /gap/Pow、/gap/GlobalAveragePool算子精度为fp32,其余算子精度为fp16
result_20231128163718.xlsx /gap/Clip、/gap/Pow、/gap/GlobalAveragePool算子精度为fp32,其余算子精度为fp16
result_20231128164706.xlsx 所有算子精度为fp32