DeekSeep 多机推理扩容问题
收藏回复举报
DeekSeep 多机推理扩容问题
t('forum.solved') 已解决
新人帖
发表于2025-03-21 15:04:52
0 查看

1、目前2台800I A2基于W8A8部署满血版R1,如果扩到4机,在不改变量化的情况下,模型是否需要重新部署?

2、如果多机推理扩容至4机以上,是否支持?扩容方式是否和2机-4机一致?

我要发帖子