官方的yolo例子,换上自己转换的yolo11的om模型,推理的时候很慢,好像没有使用上npu
收藏回复举报
官方的yolo例子,换上自己转换的yolo11的om模型,推理的时候很慢,好像没有使用上npu
t('forum.solved') 已解决
发表于2024-12-20 11:11:09
0 查看

200I DK A2的板子推理转换后的yolo11,能推理,但是很慢,好像没有用上npu,是需要怎样配置吗?

使用例子的yolo5的模型的时候,资源使用情况

cke_285.png

推理还是比较快的,AI core是有在使用的,换上自己转换出来的yolo11n的模型,跑起来很慢,资源使用情况是这样

cke_921.png

ai core是0,没有在使用

yolo11的pt转onnx命令为:

yolo export model=best.pt format=onnx  device=0

onnx转om的命令为:

atc --model=./best.onnx --framework=5 --output=best --input_format=NCHW --input_shape="images:1,3,640,640" --log=error --soc_version=芯片型号

本帖最后由 匿名用户2024/12/20 15:49:56 编辑

我要发帖子