2台G5680跑DeepSeek R1满血版模型,设备间的网络带宽需要什么?看网上推荐是每台服务器上配置8张RoCE的卡,2台设备用16张,这个有什么依据吗?
收藏回复举报
2台G5680跑DeepSeek R1满血版模型,设备间的网络带宽需要什么?看网上推荐是每台服务器上配置8张RoCE的卡,2台设备用16张,这个有什么依据吗?
t('forum.solved') 已解决
新人帖
发表于2025-03-21 12:03:29
0 查看

2台G5680(910B3)跑DeepSeek R1满血版模型,设备间的网络带宽需要什么?看网上推荐是每台服务器上配置8张RoCE的卡,2台设备用16张,这个有什么依据吗?

有什么什么计算公式,比如模型权重,与网络瓶颈的带宽相关的一些

我要发帖子