cann8.0rc3,atlas 300v pro,
在3060上输出结果与om差别较大,用atc设置转换精度--precision_mode_v2=origin,报错,添加--customize_dtypes参数,conf内容如下
OpType::Conv2D:InputDtype:float16,float16,float16,OutputDtype:float16
OpType::BatchMatMulV2:InputDtype:float16,float16,float16,OutputDtype:float16
偏差更大,尝试关闭--buffer_optimize=off_optimize,结果一样
相同模型输入
模型文件链接: https://pan.baidu.com/s/1z-pzoUjDVrI4sVSQHcRmdw 提取码: a88n
cann8.0rc3,atlas 300v pro,
在3060上输出结果与om差别较大,用atc设置转换精度--precision_mode_v2=origin,报错,添加--customize_dtypes参数,conf内容如下
OpType::Conv2D:InputDtype:float16,float16,float16,OutputDtype:float16
OpType::BatchMatMulV2:InputDtype:float16,float16,float16,OutputDtype:float16
偏差更大,尝试关闭--buffer_optimize=off_optimize,结果一样
相同模型输入
模型文件链接: https://pan.baidu.com/s/1z-pzoUjDVrI4sVSQHcRmdw 提取码: a88n