现有torch训练好的模型weather.pt,先转换为weather.onnx,onnx的测试效果与原本pt模型运行效果一致
使用如下命令将onnx模型转换为om模型,转换期间无任何报错
insert_op.cfg 文件内容如下
转换后的om模型进行推理,推理结果与原模型完全不一致,左侧为om的推理结果,右侧为onnx的推理结果。

onnx模型与转换后的om模型链接如下
链接: https://pan.baidu.com/s/1n2auaoHAlmNLFG14D_DwUg?pwd=p2na 提取码: p2na 复制这段内容后打开百度网盘手机App,操作更方便哦 --来自百度网盘超级会员v6的分享
模型输入输出均为3x416x416的RGB图片,这可能帮助你们复现
CANN 版本6.0.RC1,硬件型号:A300I (3000)
现有torch训练好的模型weather.pt,先转换为weather.onnx,onnx的测试效果与原本pt模型运行效果一致
使用如下命令将onnx模型转换为om模型,转换期间无任何报错
insert_op.cfg 文件内容如下
aipp_op { related_input_rank : 0 src_image_size_w : 416 src_image_size_h : 416 crop : false input_format : YUV420SP_U8 aipp_mode: static csc_switch : true rbuv_swap_switch : false matrix_r0c0 : 298 matrix_r0c1 : 0 matrix_r0c2 : 409 matrix_r1c0 : 298 matrix_r1c1 : -100 matrix_r1c2 : -208 matrix_r2c0 : 298 matrix_r2c1 : 516 matrix_r2c2 : 0 input_bias_0 : 16 input_bias_1 : 128 input_bias_2 : 128 mean_chn_0 : 0 mean_chn_1 : 0 mean_chn_2 : 0 min_chn_0 : 0.0 min_chn_1 : 0.0 min_chn_2 : 0.0 var_reci_chn_0 : 0.003922 var_reci_chn_1 : 0.003922 var_reci_chn_2 : 0.003922 }转换后的om模型进行推理,推理结果与原模型完全不一致,左侧为om的推理结果,右侧为onnx的推理结果。
onnx模型与转换后的om模型链接如下
模型输入输出均为3x416x416的RGB图片,这可能帮助你们复现
CANN 版本6.0.RC1,硬件型号:A300I (3000)