接口功能:完成MoE(Mixture of Experts)门控Top-K选择的反向梯度计算。该算子是aclnnMoeGatingTopK的反向算子,根据前向算子输出的归一化得分(xNorm)、上游梯度(gradY)和专家索引(expertIdx),计算输入得分矩阵的梯度(gradX)。支持sigmoid模式(normType=1)。
计算公式(sigmoid模式,normType=1):
- 缩放梯度
- 正向renorm的反向传播
- 散射到完整维度
- Sigmoid反向传播
每个算子分为,必须先调用"aclnnMoeGatingTopKBackwardGetWorkspaceSize"接口获取计算所需workspace大小以及包含了算子计算流程的执行器,再调用"aclnnMoeGatingTopKBackward"接口执行计算。
[object Object]
[object Object]
- 确定性计算:
- aclnnMoeGatingTopKBackward默认确定性实现。
[object Object]