昇腾社区首页
支持
消息
我的论坛主页
论坛首页
/
大模型分布式部署
收藏回复举报
大模型分布式部署
t('forum.solved') 已解决
新人帖
发表于2023-12-18 13:49:15
0 查看
我看网上说流水线并行部署，需要看训练策略，如果训练 策略stagesize=2,推理的时候也就只能设置2，根据训练的分布式策略来定义stagesize,那么如果训练不设置流水线并行，那么是不是推理的时候无法做流水线切分？

我要发帖子

我们使用cookie来确保您的高速浏览体验。继续浏览本站，即表示您同意我们使用cookie。查看详情