华为计算微信公众号
昇腾AI开发者公众号
华为计算微博
华为计算今日头条
近期在Atlas310上完成YOLOv8物体检测部署,静态图片推理正常,检测精度和速度都符合预期,但接入实时视频流推理时出现严重卡顿。设备推理帧率仅3-5帧,画面延迟极高,无法满足实时检测需求。我已尝试调整模型推理batch大小、关闭后台冗余进程,同时核对代码预处理逻辑,未发现代码bug。硬件资源占用率不高,不存在过载情况。不清楚是视频解码、推理调度还是内存复用的问题,有没有大佬知道优化方案,如何提升视频流推理帧率?
我要发帖子
近期在Atlas310上完成YOLOv8物体检测部署,静态图片推理正常,检测精度和速度都符合预期,但接入实时视频流推理时出现严重卡顿。设备推理帧率仅3-5帧,画面延迟极高,无法满足实时检测需求。我已尝试调整模型推理batch大小、关闭后台冗余进程,同时核对代码预处理逻辑,未发现代码bug。硬件资源占用率不高,不存在过载情况。不清楚是视频解码、推理调度还是内存复用的问题,有没有大佬知道优化方案,如何提升视频流推理帧率?