昇腾社区首页
支持
消息
我的论坛主页
论坛首页
/
om模型能否进行多卡并行推理？
收藏回复举报
om模型能否进行多卡并行推理？
t('forum.solved') 已解决
发表于2023-12-05 21:19:37
0 查看
把LLM大模型转成om格式后，文件比较大，能否使用多个910卡进行并行推理加快推理速度？

我要发帖子

我们使用cookie来确保您的高速浏览体验。继续浏览本站，即表示您同意我们使用cookie。查看详情