aclnnLayerNormBackward

支持的产品型号

• Atlas 推理系列产品。
• Atlas 训练系列产品。
• Atlas A2训练系列产品。

接口原型

每个算子分为，必须先调用“aclnnLayerNormBackwardGetWorkspaceSize”接口获取计算所需workspace大小以及包含了算子计算流程的执行器，再调用“aclnnLayerNormBackward”接口执行计算。

• aclnnStatus aclnnLayerNormBackwardGetWorkspaceSize(const aclTensor *gradOut, const aclTensor *input, const aclIntArray *normalizedShape, const aclTensor *mean, const aclTensor *rstd, const aclTensor *weightOptional, const aclTensor *biasOptional, const aclBoolArray *outputMask, aclTensor *gradInputOut, aclTensor *gradWeightOut, aclTensor *gradBiasOut, uint64_t *workspaceSize, aclOpExecutor **executor)
• aclnnStatus aclnnLayerNormBackward(void *workspace, uint64_t workspaceSize, aclOpExecutor *executor, aclrtStream stream)

功能描述

算子功能：native_layer_norm的反向传播。

aclnnLayerNormBackwardGetWorkspaceSize

• 参数说明：

  • gradOut(aclTensor*，计算输入)：正向计算的第一个输出，数据类型支持FLOAT、FLOAT16、BFLOAT16（仅Atlas A2训练系列产品支持）。shape与input的shape相等，shape长度大于等于normalizedShape的长度，且与normalizedShape右对齐时对应维度shape相等。支持，支持ND。

  • input(aclTensor*，计算输入)：数据类型支持FLOAT、FLOAT16、BFLOAT16（仅Atlas A2训练系列产品支持）。shape与gradOut的shape相等，shape长度大于等于normalizedShape的长度，且与normalizedShape右对齐时对应维度shape相等。支持，支持ND。

  • normalizedShape(aclIntArray*，计算输入)：表示需要进行norm计算的shape，数据类型支持INT64，长度小于等于input的shape长度，与input的shape右对齐时对应维度shape相等。

  • mean(aclTensor*，计算输入)：正向计算的第二个输出，表示input的均值，数据类型支持FLOAT、FLOAT16、BFLOAT16（仅Atlas A2训练系列产品支持）。shape与rstd的shape相等。支持，支持ND。

  • rstd(aclTensor*，计算输入)：正向计算的第三个输出，表示input的标准差的倒数，数据类型支持FLOAT、FLOAT16、BFLOAT16（仅Atlas A2训练系列产品支持）。shape与mean的shape相等。支持，支持ND。

  • weightOptional(aclTensor*，计算输入)：权重tensor，可选参数。weightOptional非空时，数据类型支持FLOAT、FLOAT16、BFLOAT16（仅Atlas A2训练系列产品支持）。shape与normalizedShape相等。支持，支持ND。weightOptional为空时，需要构造一个shape与normalizedShape相等，数据全为1的tensor。

  • biasOptional(aclTensor*，计算输入)：偏置tensor，可选参数。biasOptional非空时数据类型支持FLOAT、FLOAT16、BFLOAT16（仅Atlas A2训练系列产品支持）。shape与normalizedShape相等。支持，支持ND。

  • outputMask(aclBoolArray*，计算输入)：数据类型支持BOOL，长度为3，取值为True时表示对应位置的输出非空。

  • gradInputOut(aclTensor*，计算输出)：数据类型支持FLOAT、FLOAT16、BFLOAT16（仅Atlas A2训练系列产品支持）。shape与input的shape相等。支持，支持ND。

  • gradWeightOut(aclTensor*，计算输出)：数据类型支持FLOAT。shape与gradBiasOut的shape相等。支持，支持ND。

  • gradBiasOut(aclTensor*，计算输出)：数据类型支持FLOAT。shape与gradWeightOut的shape相等。支持，支持ND。

  • workspaceSize(uint64_t*, 出参)：返回用户需要在Device侧申请的workspace大小。

  • executor(aclOpExecutor**, 出参)：返回op执行器，包含了算子计算流程。

• 返回值：

  aclnnStatus：返回状态码，具体参见。

aclnnLayerNormBackward

• 参数说明：

  • workspace(void*, 入参)：在Device侧申请的workspace内存地址。

  • workspaceSize(uint64_t, 入参)：在Device侧申请的workspace大小，由第一段接口aclnnLayerNormBackwardGetWorkspaceSize获取。

  • executor(aclOpExecutor*, 入参)：op执行器，包含了算子计算流程。

  • stream(aclrtStream, 入参)：指定执行任务的 AscendCL Stream流。

• 返回值：

  aclnnStatus：返回状态码，具体参见。

约束与限制

无。

调用示例

示例代码如下，仅供参考，具体编译和执行过程请参考。