昇腾社区首页
中文
注册
开发者
下载

aclnnFastBatchNormBackward

产品支持情况

[object Object]undefined

功能说明

  • 接口功能:的反向传播(高性能版本)。用于计算输入张量的梯度,以便在反向传播过程中更新模型参数。

  • 计算公式:

    • 当training为true时:

      gradInput=weightnsaveVar+eps(ngradOuti=0mgradOutxsaveMeansaveVar+epsi=0m(gradOutxsaveMeansaveVar+eps))gradInput = \frac{weight}{ n{\sqrt{saveVar + eps}} }(n * gradOut - \sum^m_{i=0}{gradOut} - \frac{x-saveMean}{ {\sqrt{saveVar + eps}} }\sum^m_{i=0}({gradOut} *\frac{x-saveMean}{ {\sqrt{saveVar + eps}} } )) gradWeight=i=0m[gradOut(xsaveMean)]1saveVar+epsgradWeight = \sum^m_{i=0}[{gradOut} * (x - saveMean)] * \frac{1}{ {\sqrt{saveVar + eps}} } gradBias=i=0mgradOutgradBias = \sum^m_{i=0}{gradOut}
    • 当training为false时:

      gradInput=gradOut1runningVar+epsweightgradInput = gradOut * \frac{1}{ {\sqrt{runningVar + eps}} } * weight gradWeight=i=0m[gradOut(xrunningMean)]1runningVar+epsgradWeight = \sum^m_{i=0}[{gradOut} * (x - runningMean)] * \frac{1}{ {\sqrt{runningVar + eps}} } gradBias=i=0mgradOutgradBias = \sum^m_{i=0}{gradOut}

函数原型

每个算子分为,必须先调用“aclnnFastBatchNormBackwardGetWorkspaceSize”接口获取入参并根据流程计算所需workspace大小,再调用“aclnnFastBatchNormBackward”接口执行计算。

[object Object]
[object Object]

aclnnFastBatchNormBackwardGetWorkspaceSize

  • 参数说明:

    [object Object]
    • [object Object]Atlas A2 训练系列产品/Atlas A2 推理系列产品[object Object]、[object Object]Atlas A3 训练系列产品/Atlas A3 推理系列产品[object Object]:

      • 参数[object Object][object Object][object Object][object Object][object Object][object Object][object Object]的数据类型与[object Object]的保持一致。
  • 返回值:

    aclnnStatus:返回状态码,具体参见

    第一段接口完成入参校验,出现以下场景时报错:

    [object Object]

aclnnFastBatchNormBackward

  • 参数说明:

    [object Object]
  • 返回值:

    aclnnStatus:返回状态码,具体参见

约束说明

  • 确定性计算:
    • aclnnFastBatchNormBackward默认确定性实现。

调用示例

示例代码如下,仅供参考,具体编译和执行过程请参考

[object Object]