首先,看到帖子https://www.hiascend.com/forum/thread-0257198819965507111-1-1.html上关于yolo11s的检测性能测试,在8T的算力情况下,检测时间为17ms,但我在20T算力下,仅推理时间就有23ms.

具体操作步骤如下:

首先在非昇腾设备上,使用atc将onnx模型转换为了om模型,具体命令如下:

atc --model=yolo11s_1_batch.onnx --framework=5 --input_format=NCHW --input_shape="images:1,3,640,640" --output=yolo11s_1_640_fp16 --soc_version=Ascend310B1 --insert_op_conf=aipp.cfg  --precision_mode=force_fp16

转换完成后,参考网上sampleYOLOV8.cpp的代码将其中yolov8s.om代替为yolo11s.om,编译运行.

测试仅推理时间为23ms.通过npu-smi info watch查看npu利用率仅为60%左右,AI cpu的利用率为1%左右.

时间差距挺大的,求指教