在Ascend 910 NPU上推理过慢!
收藏回复举报
在Ascend 910 NPU上推理过慢!
t('forum.solved') 已解决
发表于2024-05-26 00:40:32
0 查看

我在ascend 910上运行我移植到mindspore上的BGE_M3模型,但是出现推理过慢的问题,请问应考虑哪些因素?

这是我的NPU利用率:
cke_1818.png

我要发帖子