aclnnModulateBackward
产品支持情况
功能说明
算子功能:完成ModulateBackward反向传播中参数的计算,进行梯度更新。
计算公式:
设输入self的shape为[B, L, D]计算公式如下: 公式:
符号说明:
- : 表示逐元素乘法;
- : 求和操作,沿序列维度(即dim=1)进行
- :下标,表示张量的维度索引(通常为Batch,Length,Dimension)
- : 表示将scale张量在序列维度 上进行广播(扩展)
函数原型
每个算子分为,必须先调用“aclnnModulateBackwardGetWorkspaceSize”接口获取计算所需workspace大小以及包含了算子计算流程的执行器,再调用“aclnnModulateBackward”接口执行计算。
[object Object]
[object Object]
aclnnModulateBackwardGetWorkspaceSize
aclnnModulateBackward
约束说明
确定性计算:
- aclnnModulateBackward默认确定性实现。
scale和shift是二维向量,第一维需要和input的第一维shape相同,第二维需要和input的第三维shape相同。
输入gradoutput的shape需要和输入input的shape保持一致。
调用示例
[object Object]