onnx和om输出结果不一样,差别较大
收藏回复举报
onnx和om输出结果不一样,差别较大
t('forum.solved') 已解决
发表于2025-07-15 09:39:18
0 查看

cann8.0rc3,atlas 300v pro,

在3060上输出结果与om差别较大,用atc设置转换精度--precision_mode_v2=origin,报错,添加--customize_dtypes参数,conf内容如下

OpType::Conv2D:InputDtype:float16,float16,float16,OutputDtype:float16 

OpType::BatchMatMulV2:InputDtype:float16,float16,float16,OutputDtype:float16

偏差更大,尝试关闭--buffer_optimize=off_optimize,结果一样

相同模型输入

模型文件链接: https://pan.baidu.com/s/1z-pzoUjDVrI4sVSQHcRmdw 提取码: a88n

我要发帖子