华为计算微信公众号
昇腾AI开发者公众号
华为计算微博
华为计算今日头条
1、目前2台800I A2基于W8A8部署满血版R1,如果扩到4机,在不改变量化的情况下,模型是否需要重新部署?
2、如果多机推理扩容至4机以上,是否支持?扩容方式是否和2机-4机一致?
我要发帖子
1、目前2台800I A2基于W8A8部署满血版R1,如果扩到4机,在不改变量化的情况下,模型是否需要重新部署?
2、如果多机推理扩容至4机以上,是否支持?扩容方式是否和2机-4机一致?