mxVision里的model.infer()函数推理速度很慢
收藏回复举报
mxVision里的model.infer()函数推理速度很慢
t('forum.solved') 已解决
发表于2024-07-04 16:39:41
0 查看

开发板上算法使用的是mxVision里的model.infer()函数,我原来的pt模型在主机上可以0.02秒推理一张图片,转换成om模型后需要43秒才能完成一张图片的model.infer(),是因为转om模型时的那些W11001的错误吗?我另一个算法的几个模型转换成om模型时没有这些W11001的错误,但推理的时候有的比原模型会变快0.5秒,有的会变慢1.5秒。如何解决这些W11001的错误
这个图是在WSL—ubuntu上转换onnx为om模型时的信息,

转换命令atc --model=car_slim.onnx --input_shape="input.1:1,3,608,608;onnx::Expand_1:1,1,608,608" --framework=5 --output=car_slim --soc_version=Ascend310B4 

123%202024-07-03%20160131.png

本帖最后由 匿名用户2024/12/05 17:28:28 编辑

我要发帖子