华为计算微信公众号
昇腾AI开发者公众号
华为计算微博
华为计算今日头条
1个gpu训练时,单卡batch_size=80,单卡显存消耗10GB左右
4个gpu训练时,单卡batch_size=20,总体batch_size=80,单卡显存消耗也是10GB左右
使用了更多的GPU,训练效率没有提高,这是什么原因呢?
本帖最后由 匿名用户 于 2024/01/31 15:53:35 编辑
我要发帖子
1个gpu训练时,单卡batch_size=80,单卡显存消耗10GB左右
4个gpu训练时,单卡batch_size=20,总体batch_size=80,单卡显存消耗也是10GB左右
使用了更多的GPU,训练效率没有提高,这是什么原因呢?