chatglm2怎样使用Mindspore进行多卡推理?
收藏回复举报
chatglm2怎样使用Mindspore进行多卡推理?
t('forum.solved') 已解决
发表于2023-12-27 17:04:48
0 查看

官方文档中run_distribute.sh脚本里似乎只有训练逻辑,没有推理逻辑??

https://gitee.com/mindspore/mindformers/blob/dev/docs/model_cards/glm2.md#%E5%A4%9A%E5%8D%A1%E6%8E%A8%E7%90%86

我要发帖子