输入和输出均为FP32,中间节点会出现F16的情况,导致最终测试结果与nvidia使用onnx模型出现较大出入,比如同一目标无法检测,置信度有较大差异
模型转化参考内容:https://gitee.com/cumt/ascend-yolov8-sample/tree/master
atc转换指令: atc --model=yolov8l-seg.onnx --framework=5 --output=yolov8l-seg --input_shape="images:1,3,640,640" --soc_version=Ascend310P3 --insert_op_conf=aipp-yolov8.cfg
aipp-yolov8.cfg与参考网址内相同
输入和输出均为FP32,中间节点会出现F16的情况,导致最终测试结果与nvidia使用onnx模型出现较大出入,比如同一目标无法检测,置信度有较大差异
模型转化参考内容:https://gitee.com/cumt/ascend-yolov8-sample/tree/master
atc转换指令: atc --model=yolov8l-seg.onnx --framework=5 --output=yolov8l-seg --input_shape="images:1,3,640,640" --soc_version=Ascend310P3 --insert_op_conf=aipp-yolov8.cfg
aipp-yolov8.cfg与参考网址内相同