onnx 转换的om模型运行效果与原本完全不一致
收藏回复举报
onnx 转换的om模型运行效果与原本完全不一致
t('forum.solved') 已解决
发表于2023-02-15 10:38:40
0 查看

现有torch训练好的模型weather.pt,先转换为weather.onnx,onnx的测试效果与原本pt模型运行效果一致

使用如下命令将onnx模型转换为om模型,转换期间无任何报错

atc --input_shape="modelInput:1,3,416,416" --input_format=NCHW --output=./TransWeather_onnx_416 --soc_version=Ascend310 --insert_op_conf=./insert_op.cfg --framework=5 --save_original_model=false --model=./416TransWeather.onnx --log=debug

insert_op.cfg 文件内容如下

aipp_op {
    related_input_rank : 0
    src_image_size_w : 416
    src_image_size_h : 416
    crop : false
    input_format : YUV420SP_U8
    aipp_mode: static
    csc_switch : true
    rbuv_swap_switch : false
    matrix_r0c0 : 298
    matrix_r0c1 : 0
    matrix_r0c2 : 409
    matrix_r1c0 : 298
    matrix_r1c1 : -100
    matrix_r1c2 : -208
    matrix_r2c0 : 298
    matrix_r2c1 : 516
    matrix_r2c2 : 0
    input_bias_0 : 16
    input_bias_1 : 128
    input_bias_2 : 128
    mean_chn_0 : 0
    mean_chn_1 : 0
    mean_chn_2 : 0
    min_chn_0 : 0.0
    min_chn_1 : 0.0
    min_chn_2 : 0.0
    var_reci_chn_0 : 0.003922
    var_reci_chn_1 : 0.003922
    var_reci_chn_2 : 0.003922
}

转换后的om模型进行推理,推理结果与原模型完全不一致,左侧为om的推理结果,右侧为onnx的推理结果。

true

onnx模型与转换后的om模型链接如下

链接: https://pan.baidu.com/s/1n2auaoHAlmNLFG14D_DwUg?pwd=p2na 提取码: p2na 复制这段内容后打开百度网盘手机App,操作更方便哦 --来自百度网盘超级会员v6的分享

模型输入输出均为3x416x416的RGB图片,这可能帮助你们复现

CANN 版本6.0.RC1,硬件型号:A300I (3000)

我要发帖子