昇腾社区首页
支持
消息
我的论坛主页
论坛首页
/
llm如何部署至华为设备，并使用NPU进行推理
收藏回复举报
llm如何部署至华为设备，并使用NPU进行推理
t('forum.solved') 已解决
新人帖
发表于2024-01-02 11:06:58
0 查看
想要将llama2-7b部署到华为mate60pro上，但默认使用的是cpu进行推理，如何使用npu进行推理呢？

我要发帖子

我们使用cookie来确保您的高速浏览体验。继续浏览本站，即表示您同意我们使用cookie。查看详情