昇腾硬件上推理速度未达预期,CPU 占用率反而过高,是什么原因?
收藏回复举报
昇腾硬件上推理速度未达预期,CPU 占用率反而过高,是什么原因?
t('forum.solved') 已解决
发表于2025-11-04 19:11:42
0 查看

我在使用 昇腾 Atlas 800 服务器(Ascend 910 芯片) 进行模型推理测试时,发现虽然任务在 NPU 上运行,但整体性能提升有限,推理速度与 GPU 相近甚至略慢。同时,CPU 占用率却一直维持在 200% 以上(多核系统)。

请问出现这种情况的原因可能是什么?应该如何优化,才能充分发挥昇腾硬件的算力优势?

我要发帖子