昇腾社区首页
支持
消息
我的论坛主页
论坛首页
/
【多模型并发】同时加载多个om模型推理，出现推理卡死现象
收藏回复举报
【多模型并发】同时加载多个om模型推理，出现推理卡死现象
t('forum.solved') 已解决
发表于2026-06-02 15:48:57
0 查看
服务器搭载多张昇腾NPU，同一进程内加载多个离线om模型并发推理，运行一段时间程序直接卡死，无报错日志，单模型运行一切正常，该如何优化处理？

我要发帖子

我们使用cookie来确保您的高速浏览体验。继续浏览本站，即表示您同意我们使用cookie。查看详情