【问题描述】

模型转换后精度异常，msit 工具执行精度比较发现 GatherV2 算子存在精度异常，导致模型整体输出与原模型存在较大差异。尝试通过 --keep_dtype 来指定 GatherV2 算子为 float32，精度异常问题仍存在。

atc \
--model=detection_sim.onnx \
--output=detection_sim \
--framework=5 \
--soc_version=Ascend310P3 \
--input_shape="input_img0:1,1,256,256;input_img1:1,1,256,256"

【产品型号】Atlas 300I Pro

【版本信息】：

• CANN版本： 8.0.RC2.alpha002

• Python版本：Python3.7.5

• 系统版本：   Ubuntu 18.04.6 LTS

【开发需求】

• 精度需求：无算子精度异常，和原始模型输出余弦相似度在99%以上。

【问题相关文件】（另一层楼给出文件）

• onnx 文件
• om 文件
• 精度比较结果 csv 文件、advisor_summary.txt