torch_npu.optim.NpuFusedAdadelta

接口原型

torch_npu.optim.NpuFusedAdadelta(params, lr=1.0, rho=0.9, eps=1e-6, weight_decay=0)

功能描述

通过张量融合实现的 Adadelta 算法。

参数说明

• params：模型参数或模型参数组。
• lr：学习率（默认值：1e-3）。
• rho：梯度的均方差系数（默认值：0.9）。
• eps：分母防除0项，提高数值稳定性（默认值：1e-6）。
• weight_decay：权重衰减（默认值：0）。

调用示例

opt = torch_npu.optim.NpuFusedAdadelta(model.parameters(), lr=0.001, rho=0.95, weight_decay=0.01)