昇腾社区首页
中文
注册
开发者
下载

CombinedOptimizer(TorchRec

此接口为TorchRec开源接口,非Rec SDK Torch对外接口。此章节介绍使用Rec SDK Torch时调用的TorchRec接口支持的参数范围。

功能描述

合并多个优化器合并为一个。

函数原型

1
2
class CombinedOptimizer:
    def __init__(**kwargs)

参数说明

参数名

类型

可选/必选

说明

optims

  • List[KeyedOptimizer]
  • List[Tuple[str, KeyedOptimizer]]

必选

需要合并的优化器对象列表,长度大于1。

用户需要自行保证其输入值来源于CombinedOptimizer(TorchRec)或者DistributedModelParallel.fused_optimizer(TorchRec)

返回值说明

  • 成功:返回合并后优化器。
  • 失败:抛出异常。

使用示例

1
2
from torchrec.optim.keyed import CombinedOptimizer
optimizer = CombinedOptimizer([ddp_model.fused_optimizer])

参考资源

接口调用流程及示例可参见迁移与训练