ONNX转OM模型精度严重下降
收藏回复举报
ONNX转OM模型精度严重下降
t('forum.solved') 已解决
新人帖
发表于2025-08-08 15:40:37
0 查看
我把yolov5训练好的模型转成onnx格式,推理没问题,atc转成om模型后出现精度问题
atc命令:atc --model=epoch150.onnx --framework=5 --output=tecrun_y5s6  --input_format=NCHW --input_shape="images:1,3,640,640" --soc_version=Ascend310P3 
om推理没有结果,推理代码是其他人封装好的我没办法查看,msit查看精度比对,我把csv文件放在附件
当我用下面的atc命令推理有结果,但是精度差异非常大,msit查看精度比对报错,输入数据维度对不上;
atc --model=epoch150.onnx --framework=5 --output=tecrun_y5s6  --input_format=NCHW --input_shape="images:1,3,640,640" --soc_version=Ascend310P3 --insert_op_conf=aipp.cfg
aipp.cfg的内容如下

aipp_op{

    aipp_mode:static

    input_format : YUV420SP_U8

    src_image_size_w : 640

    src_image_size_h : 640

    csc_switch : true

    rbuv_swap_switch : false

    matrix_r0c0 : 256

    matrix_r0c1 : 0

    matrix_r0c2 : 359

    matrix_r1c0 : 256

    matrix_r1c1 : -88

    matrix_r1c2 : -183

    matrix_r2c0 : 256

    matrix_r2c1 : 454

    matrix_r2c2 : 0

    input_bias_0 : 0

    input_bias_1 : 128

    input_bias_2 : 128

    crop: true

    load_start_pos_h : 0

    load_start_pos_w : 0

    crop_size_w : 640

    crop_size_h : 640

    min_chn_0 : 0

    min_chn_1 : 0

    min_chn_2 : 0

    var_reci_chn_0: 0.0039215686274509803921568627451

    var_reci_chn_1: 0.0039215686274509803921568627451

    var_reci_chn_2: 0.0039215686274509803921568627451

}

我要发帖子