在单机多卡数据并行设置下训练,使用mindspore.train.Mode的一些疑惑
收藏回复举报
在单机多卡数据并行设置下训练,使用mindspore.train.Mode的一些疑惑
t('forum.solved') 已解决
发表于2024-07-03 11:45:58
0 查看

1.执行单机多卡脚本后,程序看起来更像是在四张卡上跑,之间毫无关联。正常应该是怎样的?

2.在单机多卡数据并行的情况下,用model.fit()进行模型训练,会自动将梯度聚合吗?还是说,单机多卡的情况不支持使用fit()边训练边验证

本帖最后由 匿名用户2024/07/03 11:46:46 编辑

我要发帖子