aclnnMoeInitRoutingV2Grad

产品支持情况

[object Object]undefined

功能说明

• 接口功能：的反向传播，完成tokens的加权求和。
• 计算公式：$$gradX_i=\sum_{t=0}^{topK}gradExpandedX[expandedRowIdx[i * topK + t]]$$

函数原型

每个算子分为，必须先调用“aclnnMoeInitRoutingV2GradGetWorkspaceSize”接口获取计算所需workspace大小以及包含了算子计算流程的执行器，再调用“aclnnMoeInitRoutingV2Grad”接口执行计算。

aclnnMoeInitRoutingV2GradGetWorkspaceSize

• 参数说明：

  [object Object]

  shape符号说明：

  • B: batch size
  • S: tokens数量
  • H: hidden size，即每个token序列长度
  • K: 即topK，token被处理的专家数
  • A: activeNum值
  • E: expert num，即专家数
  • C: expert capacity，表示专家处理token数量的能力阈值

• 返回值

  返回aclnnStatus状态码，具体参见。

  第一段接口完成入参校验，出现以下场景时报错：

  [object Object]

aclnnMoeInitRoutingV2Grad

• 参数说明：

  [object Object]

• 返回值：

  aclnnStatus：返回状态码，具体参见。

约束说明

• 确定性计算：
  • aclnnMoeInitRoutingV2Grad默认确定性实现。

调用示例

示例代码如下，仅供参考，具体编译和执行过程请参考。