平台:ss928
npu: svp nnn
描述:
根据svp nnn的API写了一个svp nnn 推理程序,使用atc将yolo5提供的模型转换为om模型;atc命令:
insert_op.cfg内容:
生成的om模型的输入是RGB格式,然后将RGB数据喂给程序,推理结果经度挺高的,基本没问题;
但是:
将atc命令配置文件insert_op.cfg中的input_format改为YUV420SP,重新转换个输入为yuv的om模型, 然后给模型输入yuv数据进行推理就不准确了;
推理的结果不全,例如有8个人,只推理出来7个; 而且每次运行推理结果可能会变(5个,6个等),请问这是啥情况?
注意:
程序的置信度 iou都是一样的。
平台:ss928
npu: svp nnn
描述:
根据svp nnn的API写了一个svp nnn 推理程序,使用atc将yolo5提供的模型转换为om模型;atc命令:
insert_op.cfg内容:
aipp_op { related_input_rank : 0 input_format : BGR_PLANAR model_format : RGB aipp_mode: static mean_chn_0 : 0 mean_chn_1 : 0 mean_chn_2 : 0 var_reci_chn_0 : 0.0039062 var_reci_chn_1 : 0.0039062 var_reci_chn_2 : 0.0039062 }生成的om模型的输入是RGB格式,然后将RGB数据喂给程序,推理结果经度挺高的,基本没问题;
但是:
将atc命令配置文件insert_op.cfg中的input_format改为YUV420SP,重新转换个输入为yuv的om模型, 然后给模型输入yuv数据进行推理就不准确了;
推理的结果不全,例如有8个人,只推理出来7个; 而且每次运行推理结果可能会变(5个,6个等),请问这是啥情况?
注意:
程序的置信度 iou都是一样的。