昇腾开发板 Atlas 200I DK A2:推理时,采取什么方式,能用到NPU算力。谢谢!
收藏回复举报
昇腾开发板 Atlas 200I DK A2:推理时,采取什么方式,能用到NPU算力。谢谢!
t('forum.solved') 已解决
发表于2025-06-09 15:22:27
0 查看

1、模型训练好了。然后放到开发板上,比如转成开发板要求的 om 格式。

2、要采取什么措施,才能够在调用模型做推理时,用上开发板的NPU算力,以加快推理速度。可能是:

  • 在开发板上安装 mindspore,相关推理的程序改写能 mindspore框架(比如原来用 PyTorch 写的,要依葫芦画瓢,改成MindSpore的样子)

  • (和/或)在开发板上安装torch_npu 软件包

  • (和/或)在开发板上安装其他什么软件包

希望能得到操作指导,一步一步的那种。

谢谢先!

我要发帖子