华为计算微信公众号
昇腾AI开发者公众号
华为计算微博
华为计算今日头条
2台G5680(910B3)跑DeepSeek R1满血版模型,设备间的网络带宽需要什么?看网上推荐是每台服务器上配置8张RoCE的卡,2台设备用16张,这个有什么依据吗?
有什么什么计算公式,比如模型权重,与网络瓶颈的带宽相关的一些
我要发帖子
2台G5680(910B3)跑DeepSeek R1满血版模型,设备间的网络带宽需要什么?看网上推荐是每台服务器上配置8张RoCE的卡,2台设备用16张,这个有什么依据吗?
有什么什么计算公式,比如模型权重,与网络瓶颈的带宽相关的一些