昇腾社区首页
中文
注册

aclnnBatchNormElemtBackward

支持的产品型号

  • Atlas 训练系列产品。
  • Atlas A2训练系列产品/Atlas 800I A2推理产品。

接口原型

每个算子分为undefined,必须先调用“aclnnBatchNormElemtBackwardGetWorkspaceSize”接口获取入参并根据流程计算所需workspace大小,再调用“aclnnBatchNormElemtBackward”接口执行计算。

  • aclnnStatus aclnnBatchNormElemtBackwardGetWorkspaceSize(const aclTensor* gradOut, const aclTensor* input, const aclTensor* mean, const aclTensor* invstd, const aclTensor* weight, const aclTensor* sumDy, const aclTensor* sumDyXmu, aclTensor* counter, aclTensor* gradInput, uint64_t* workspaceSize, aclOpExecutor** executor)
  • aclnnStatus aclnnBatchNormElemtBackward(void* workspace, uint64_t workspaceSize, aclOpExecutor* executor, const aclrtStream stream)

功能描述

  • 算子功能: undefined的反向计算。
  • 计算公式:
lx^i=lyiγ\frac{\partial l}{\partial \hat{x}_i} = \frac{\partial l}{\partial y_i} \cdot γ lσB2=i=0mlx^i(xiμB)12(σB2+ε)3/2\frac{\partial l}{\partial σ^2_B} = \sum^m_{i=0}\frac{\partial l}{\partial \hat{x}_i} \cdot (x_i-μ_B) \cdot \frac{-1}{2}(σ^2_B + ε)^{-3/2} lμB=(i=0mlx^i1σB2+ε)+lσB2i=0m2(xiμB)m\frac{\partial l}{\partial μ_B} = (\sum^m_{i=0}\frac{\partial l}{\partial \hat{x}_i} \cdot \frac{-1}{\sqrt{σ^2_B + ε}}) + \frac{\partial l}{\partial σ^2_B} \cdot \frac{\sum^m_{i=0}-2(x_i-μ_B)}{m} lxi=lx^i1σB2+ε)+lσB22(xiμB)m+lμB1m\frac{\partial l}{\partial x_i} = \frac{\partial l}{\partial \hat{x}_i} \cdot \frac{1}{\sqrt{σ^2_B + ε}}) + \frac{\partial l}{\partial σ^2_B} \cdot \frac{2(x_i-μ_B)}{m} + \frac{\partial l}{\partial μ_B} \cdot \frac{1}{m} lγ=i=0mlyix^\frac{\partial l}{\partial γ} = \sum^m_{i=0} \frac{\partial l}{\partial y_i} \cdot \hat{x} lβ=i=0mlyi\frac{\partial l}{\partial β} = \sum^m_{i=0} \frac{\partial l}{\partial y_i}

aclnnBatchNormElemtBackwardGetWorkspaceSize

  • 参数说明:

    • gradOut(aclTensor*, 计算输入): 正向输出的微分,Device侧的aclTensor,数据类型仅支持FLOAT、FLOAT16,shape支持2-8维,shape需要与input一致,支持undefinedundefined支持ND,其中第2维固定为channel轴。
    • input(aclTensor*, 计算输入): Device侧的aclTensor,数据类型仅支持FLOAT、FLOAT16,shape支持2-8维,支持undefinedundefined支持ND,其中第2维固定为channel轴。
    • mean(aclTensor*, 计算输入): 均值,Device侧的aclTensor,数据类型支持FLOAT、FLOAT16,shape支持1维,size需要与input的channel轴的size一致,支持undefinedundefined支持ND。
    • invstd(aclTensor*, 计算输入): 标准差的倒数,Device侧的aclTensor,数据类型支持FLOAT、FLOAT16,shape支持1维,size需要与input的channel轴的size一致,支持undefinedundefined支持ND。
    • weight(aclTensor*, 计算输入): 权重,Device侧的aclTensor,数据类型支持FLOAT、FLOAT16,shape支持1维,size需要与input的channel轴的size一致,支持undefinedundefined支持ND。
    • sumDy(aclTensor*, 计算输入): 输出梯度的样本均值和的平均值,Device侧的aclTensor,数据类型支持FLOAT、FLOAT16,shape支持1维,size需要与input的channel轴的size一致,支持undefinedundefined支持ND。
    • sumDyXmu(aclTensor*, 计算输入): 样本均值和与输入梯度乘积的平均值,Device侧的aclTensor,数据类型支持FLOAT、FLOAT16,shape支持1维,size需要与input的channel轴的size一致,支持undefinedundefined支持ND。
    • counter(aclTensor*, 计算输入): 输入数据的数量大小,Device侧的aclTensor,数据类型支持INT32、FLOAT16、FLOAT,支持undefinedundefined支持ND。
    • gradInput(aclTensor*, 计算输出): 输出的结果,Device侧的aclTensor,数据类型支持FLOAT、FLOAT16,shape支持2-8维,shape需要与input一致,支持undefinedundefined支持ND。
    • workspaceSize(uint64_t*, 出参): 返回需要在Device侧申请的workspace大小。
    • executor(aclOpExecutor**, 出参): 返回op执行器,包含了算子计算流程。
  • 返回值:

    aclnnStatus:返回状态码,具体参见undefined

    [object Object]

aclnnBatchNormElemtBackward

  • 参数说明:

    • workspace(void*, 入参): 在Device侧申请的workspace内存地址。
    • workspaceSize(uint64_t, 入参): 在Device侧申请的workspace大小,由第一段接口aclnnBatchNormElemtBackwardGetWorkspaceSize获取。
    • executor(aclOpExecutor*, 入参): op执行器,包含了算子计算流程。
    • stream(aclrtStream, 入参): 指定执行任务的 AscendCL Stream流。
  • 返回值:

    aclnnStatus:返回状态码,具体参见undefined

约束与限制

调用示例

示例代码如下,仅供参考,具体编译和执行过程请参考undefined

[object Object]