昇腾社区首页
中文
注册

aclnnBatchNormElemtBackward

支持的产品型号

  • [object Object]Atlas 训练系列产品[object Object]。
  • [object Object]Atlas A2 训练系列产品/Atlas 800I A2 推理产品/A200I A2 Box 异构组件[object Object]。
  • [object Object]Atlas A3 训练系列产品/Atlas A3 推理系列产品[object Object]。

功能说明

  • 算子功能: undefined的反向计算。
  • 计算公式:lx^i=lyiγ\frac{\partial l}{\partial \hat{x}_i} = \frac{\partial l}{\partial y_i} \cdot γ lσB2=i=0mlx^i(xiμB)12(σB2+ε)3/2\frac{\partial l}{\partial σ^2_B} = \sum^m_{i=0}\frac{\partial l}{\partial \hat{x}_i} \cdot (x_i-μ_B) \cdot \frac{-1}{2}(σ^2_B + ε)^ {-3/2} lμB=(i=0mlx^i1σB2+ε)+lσB2i=0m2(xiμB)m\frac{\partial l}{\partial μ_B} = (\sum^m_{i=0}\frac{\partial l}{\partial \hat{x}_i} \cdot \frac{-1}{\sqrt{σ^2_B + ε}}) + \frac {\partial l}{\partial σ^2_B} \cdot \frac{\sum^m_{i=0}-2(x_i-μ_B)}{m} lxi=lx^i1σB2+ε+lσB22(xiμB)m+lμB1m\frac{\partial l}{\partial x_i} = \frac{\partial l}{\partial \hat{x}_i} \cdot \frac{1}{\sqrt{σ^2_B + ε}} + \frac{\partial l} {\partial σ^2_B} \cdot \frac{2(x_i-μ_B)}{m} + \frac{\partial l}{\partial μ_B} \cdot \frac{1}{m} lγ=i=0mlyix^\frac{\partial l}{\partial γ} = \sum^m_{i=0} \frac{\partial l}{\partial y_i} \cdot \hat{x} lβ=i=0mlyi\frac{\partial l}{\partial β} = \sum^m_{i=0} \frac{\partial l}{\partial y_i}

函数原型

每个算子分为undefined,必须先调用“aclnnBatchNormElemtBackwardGetWorkspaceSize”接口获取入参并根据流程计算所需workspace大小,再调用“aclnnBatchNormElemtBackward”接口执行计算。

  • aclnnStatus aclnnBatchNormElemtBackwardGetWorkspaceSize(const aclTensor* gradOut, const aclTensor* input, const aclTensor* mean, const aclTensor* invstd, const aclTensor* weight, const aclTensor* sumDy, const aclTensor* sumDyXmu, aclTensor* counter, aclTensor* gradInput, uint64_t* workspaceSize, aclOpExecutor** executor)
  • aclnnStatus aclnnBatchNormElemtBackward(void* workspace, uint64_t workspaceSize, aclOpExecutor* executor, const aclrtStream stream)

aclnnBatchNormElemtBackwardGetWorkspaceSize

  • 参数说明:

    • gradOut(aclTensor*,计算输入):正向输出的微分,Device侧的aclTensor,shape支持2-8维,shape需要与input一致,支持undefinedundefined支持ND,其中第2维固定为channel轴。

      • [object Object]Atlas 训练系列产品[object Object]:数据类型支持FLOAT、FLOAT16。
      • [object Object]Atlas A2 训练系列产品/Atlas 800I A2 推理产品/A200I A2 Box 异构组件[object Object]、[object Object]Atlas A3 训练系列产品/Atlas A3 推理系列产品[object Object]:数据类型支持FLOAT、FLOAT16、BFLOAT16。
    • input(aclTensor*,计算输入):Device侧的aclTensor,shape支持2-8维,支持undefinedundefined支持ND,其中第2维固定为channel轴。

      • [object Object]Atlas 训练系列产品[object Object]:数据类型支持FLOAT、FLOAT16。
      • [object Object]Atlas A2 训练系列产品/Atlas 800I A2 推理产品/A200I A2 Box 异构组件[object Object]、[object Object]Atlas A3 训练系列产品/Atlas A3 推理系列产品[object Object]:数据类型支持FLOAT、FLOAT16、BFLOAT16。
    • mean(aclTensor*,计算输入):均值,Device侧的aclTensor,shape支持1维,size需要与input的channel轴的size一致,支持undefinedundefined支持ND。

      • [object Object]Atlas 训练系列产品[object Object]:数据类型支持FLOAT、FLOAT16。
      • [object Object]Atlas A2 训练系列产品/Atlas 800I A2 推理产品/A200I A2 Box 异构组件[object Object]、[object Object]Atlas A3 训练系列产品/Atlas A3 推理系列产品[object Object]:数据类型支持FLOAT、FLOAT16、BFLOAT16。
    • invstd(aclTensor*,计算输入):标准差的倒数,Device侧的aclTensor,shape支持1维,size需要与input的channel轴的size一致,支持undefinedundefined支持ND。

      • [object Object]Atlas 训练系列产品[object Object]:数据类型支持FLOAT、FLOAT16。
      • [object Object]Atlas A2 训练系列产品/Atlas 800I A2 推理产品/A200I A2 Box 异构组件[object Object]、[object Object]Atlas A3 训练系列产品/Atlas A3 推理系列产品[object Object]:数据类型支持FLOAT、FLOAT16、BFLOAT16。
    • weight(aclTensor*,计算输入):权重,Device侧的aclTensor,shape支持1维,size需要与input的channel轴的size一致,支持undefinedundefined支持ND。

      • [object Object]Atlas 训练系列产品[object Object]:数据类型支持FLOAT、FLOAT16。
      • [object Object]Atlas A2 训练系列产品/Atlas 800I A2 推理产品/A200I A2 Box 异构组件[object Object]、[object Object]Atlas A3 训练系列产品/Atlas A3 推理系列产品[object Object]:数据类型支持FLOAT、FLOAT16、BFLOAT16。
    • sumDy(aclTensor*,计算输入):输出梯度的样本均值和的平均值,Device侧的aclTensor,shape支持1维,size需要与input的channel轴的size一致,支持undefinedundefined支持ND。

      • [object Object]Atlas 训练系列产品[object Object]:数据类型支持FLOAT、FLOAT16。
      • [object Object]Atlas A2 训练系列产品/Atlas 800I A2 推理产品/A200I A2 Box 异构组件[object Object]、[object Object]Atlas A3 训练系列产品/Atlas A3 推理系列产品[object Object]:数据类型支持FLOAT、FLOAT16、BFLOAT16。
    • sumDyXmu(aclTensor*,计算输入):样本均值和与输入梯度乘积的平均值,Device侧的aclTensor,shape支持1维,size需要与input的channel轴的size一致,支持undefinedundefined支持ND。

      • [object Object]Atlas 训练系列产品[object Object]:数据类型支持FLOAT、FLOAT16。
      • [object Object]Atlas A2 训练系列产品/Atlas 800I A2 推理产品/A200I A2 Box 异构组件[object Object]、[object Object]Atlas A3 训练系列产品/Atlas A3 推理系列产品[object Object]:数据类型支持FLOAT、FLOAT16、BFLOAT16。
    • counter(aclTensor*,计算输入):输入数据的数量大小,Device侧的aclTensor,数据类型支持INT32、FLOAT16、FLOAT,支持undefinedundefined支持ND。

    • gradInput(aclTensor*,计算输出):输出的结果,Device侧的aclTensor,shape支持2-8维,shape需要与input一致,支持undefinedundefined支持ND。

      • [object Object]Atlas 训练系列产品[object Object]:数据类型支持FLOAT、FLOAT16。
      • [object Object]Atlas A2 训练系列产品/Atlas 800I A2 推理产品/A200I A2 Box 异构组件[object Object]、[object Object]Atlas A3 训练系列产品/Atlas A3 推理系列产品[object Object]:数据类型支持FLOAT、FLOAT16、BFLOAT16。
    • workspaceSize(uint64_t*,出参):返回需要在Device侧申请的workspace大小。

    • executor(aclOpExecutor**,出参):返回op执行器,包含了算子计算流程。

  • 返回值:

    aclnnStatus:返回状态码,具体参见undefined

    [object Object]

aclnnBatchNormElemtBackward

  • 参数说明:

    • workspace(void*,入参):在Device侧申请的workspace内存地址。
    • workspaceSize(uint64_t,入参):在Device侧申请的workspace大小,由第一段接口aclnnBatchNormElemtBackwardGetWorkspaceSize获取。
    • executor(aclOpExecutor*,入参):op执行器,包含了算子计算流程。
    • stream(aclrtStream,入参):指定执行任务的AscendCL Stream流。
  • 返回值:

    aclnnStatus:返回状态码,具体参见undefined

约束说明

无。

调用示例

示例代码如下,仅供参考,具体编译和执行过程请参考undefined

[object Object]