CombinedOptimizer(TorchRec)
此接口为TorchRec开源接口,非Rec SDK Torch对外接口。此章节介绍使用Rec SDK Torch时调用的TorchRec接口支持的参数范围。
功能描述
合并多个优化器合并为一个。
函数原型
1 2 | class CombinedOptimizer: def __init__(**kwargs) |
参数说明
参数名 |
类型 |
可选/必选 |
说明 |
|---|---|---|---|
optims |
|
必选 |
需要合并的优化器对象列表,长度大于1。 用户需要自行保证其输入值来源于CombinedOptimizer(TorchRec)或者DistributedModelParallel.fused_optimizer(TorchRec) |
返回值说明
- 成功:返回合并后优化器。
- 失败:抛出异常。
使用示例
1 2 | from torchrec.optim.keyed import CombinedOptimizer optimizer = CombinedOptimizer([ddp_model.fused_optimizer]) |
参考资源
接口调用流程及示例可参见迁移与训练。
父主题: 优化器接口