yolov8-seg模型onnx转换为om模型出现性能缺失问题
收藏回复举报
yolov8-seg模型onnx转换为om模型出现性能缺失问题
t('forum.solved') 已解决
发表于2025-07-03 16:03:26
0 查看

输入和输出均为FP32,中间节点会出现F16的情况,导致最终测试结果与nvidia使用onnx模型出现较大出入,比如同一目标无法检测,置信度有较大差异

模型转化参考内容:https://gitee.com/cumt/ascend-yolov8-sample/tree/master

atc转换指令: atc --model=yolov8l-seg.onnx --framework=5 --output=yolov8l-seg --input_shape="images:1,3,640,640" --soc_version=Ascend310P3 --insert_op_conf=aipp-yolov8.cfg

aipp-yolov8.cfg与参考网址内相同

我要发帖子