【模型推理】推理过程中出现Device内存溢出(OOM)报错
收藏回复举报
【模型推理】推理过程中出现Device内存溢出(OOM)报错
t('forum.solved') 已解决
发表于2026-05-30 13:00:26
0 查看
各位大佬,模型转换为.om文件后可以正常启动推理,但运行一段时间就报NPU设备内存溢出错误,程序直接退出。硬件资源充足,想问问该如何排查和优化?

我要发帖子