我把yolov5训练好的模型转成onnx格式,推理没问题,atc转成om模型后出现精度问题
atc命令:atc --model=epoch150.onnx --framework=5 --output=tecrun_y5s6 --input_format=NCHW --input_shape="images:1,3,640,640" --soc_version=Ascend310P3
om推理没有结果,推理代码是其他人封装好的我没办法查看,msit查看精度比对,我把csv文件放在附件
当我用下面的atc命令推理有结果,但是精度差异非常大,msit查看精度比对报错,输入数据维度对不上;
atc --model=epoch150.onnx --framework=5 --output=tecrun_y5s6 --input_format=NCHW --input_shape="images:1,3,640,640" --soc_version=Ascend310P3 --insert_op_conf=aipp.cfg
aipp.cfg的内容如下
aipp_op{
aipp_mode:static
input_format : YUV420SP_U8
src_image_size_w : 640
src_image_size_h : 640
csc_switch : true
rbuv_swap_switch : false
matrix_r0c0 : 256
matrix_r0c1 : 0
matrix_r0c2 : 359
matrix_r1c0 : 256
matrix_r1c1 : -88
matrix_r1c2 : -183
matrix_r2c0 : 256
matrix_r2c1 : 454
matrix_r2c2 : 0
input_bias_0 : 0
input_bias_1 : 128
input_bias_2 : 128
crop: true
load_start_pos_h : 0
load_start_pos_w : 0
crop_size_w : 640
crop_size_h : 640
min_chn_0 : 0
min_chn_1 : 0
min_chn_2 : 0
var_reci_chn_0: 0.0039215686274509803921568627451
var_reci_chn_1: 0.0039215686274509803921568627451
var_reci_chn_2: 0.0039215686274509803921568627451
}
atc命令:atc --model=epoch150.onnx --framework=5 --output=tecrun_y5s6 --input_format=NCHW --input_shape="images:1,3,640,640" --soc_version=Ascend310P3
om推理没有结果,推理代码是其他人封装好的我没办法查看,msit查看精度比对,我把csv文件放在附件
当我用下面的atc命令推理有结果,但是精度差异非常大,msit查看精度比对报错,输入数据维度对不上;
atc --model=epoch150.onnx --framework=5 --output=tecrun_y5s6 --input_format=NCHW --input_shape="images:1,3,640,640" --soc_version=Ascend310P3 --insert_op_conf=aipp.cfg
aipp.cfg的内容如下
aipp_op{
aipp_mode:static
input_format : YUV420SP_U8
src_image_size_w : 640
src_image_size_h : 640
csc_switch : true
rbuv_swap_switch : false
matrix_r0c0 : 256
matrix_r0c1 : 0
matrix_r0c2 : 359
matrix_r1c0 : 256
matrix_r1c1 : -88
matrix_r1c2 : -183
matrix_r2c0 : 256
matrix_r2c1 : 454
matrix_r2c2 : 0
input_bias_0 : 0
input_bias_1 : 128
input_bias_2 : 128
crop: true
load_start_pos_h : 0
load_start_pos_w : 0
crop_size_w : 640
crop_size_h : 640
min_chn_0 : 0
min_chn_1 : 0
min_chn_2 : 0
var_reci_chn_0: 0.0039215686274509803921568627451
var_reci_chn_1: 0.0039215686274509803921568627451
var_reci_chn_2: 0.0039215686274509803921568627451
}