aclnnGroupNorm

支持的产品型号

• Atlas 推理系列产品。
• Atlas 训练系列产品。
• Atlas A2训练系列产品/Atlas 800I A2推理产品。

接口原型

每个算子分为，必须先调用“aclnnGroupNormGetWorkspaceSize”接口获取计算所需workspace大小以及包含了算子计算流程的执行器，再调用“aclnnGroupNorm”接口执行计算。

• aclnnStatus aclnnGroupNormGetWorkspaceSize(const aclTensor *self, const aclTensor *gamma, const aclTensor *beta, int64_t N, int64_t C, int64_t HxW, int64_t group, double eps, aclTensor *out, aclTensor *meanOut, aclTensor *rstdOut, uint64_t *workspaceSize, aclOpExecutor **executor)
• aclnnStatus aclnnGroupNorm(void *workspace, uint64_t workspaceSize, aclOpExecutor *executor, aclrtStream stream)

功能描述

• 接口功能：计算输入self的组归一化结果out，均值meanOut，标准差的倒数rstdOut。
• 计算公式： 记 $x=self$, $E[x] = \bar{x}$代表$x$的均值，$Var[x] = \frac{1}{n - 1} * \sum_{i=1}^n(x_i - E[x])^2$代表$x$的样本方差，则$$\left\{ \begin{array} {rcl} out& &= \frac{x - E[x]}{\sqrt{Var[x] + eps}} * \gamma + \beta \\ meanOut& &= E[x]\\ rstdOut& &= \frac{1}{\sqrt{Var[x] + eps}}\\ \end{array} \right.$$

aclnnGroupNormGetWorkspaceSize

• 参数说明：

  • self（aclTensor*,计算输入）：Device侧的aclTensor，公式中的$x$，数据类型支持FLOAT16、FLOAT、BFLOAT16（仅Atlas A2训练系列产品/Atlas 800I A2推理产品支持），维度需大于一维且小于九维，支持ND，支持。

  • gamma（aclTensor*,计算输入）：Device侧的aclTensor，公式中的$\gamma$，数据类型支持FLOAT16、FLOAT、BFLOAT16（仅Atlas A2训练系列产品/Atlas 800I A2推理产品支持），数据类型与self相同，维度为一维，元素数量需与C相同,支持ND，支持。

  • beta（aclTensor*,计算输入）：Device侧的aclTensor，公式中的$\beta$，数据类型支持FLOAT16、FLOAT、BFLOAT16（仅Atlas A2训练系列产品/Atlas 800I A2推理产品支持），数据类型与self相同，维度为一维，元素数量需与C相同，支持ND，支持。

  • N（int,计算输入）：Host侧的int64常量，表示输入self在N维度上的空间大小。

  • C（int,计算输入）：Host侧的int64常量，表示输入self在C维度上的空间大小。

  • HxW（int,计算输入）：Host侧的int64常量，表示输入self在除N、C维度外的空间大小，若无其他维度则为1。

  • group（int,计算输入）：Host侧的int64常量，表示将输入self的C维度分为group组，group需大于0。

  • eps（double,计算输入）：Host侧的double常量，out和rstdOut计算公式中的$eps$值，为数值稳定性而加到分母上的值，需大于0，若保持精度，则eps需大于等于1e-5。

  • out（aclTensor*,计算输出）：Device侧的aclTensor，公式中的$out$，数据类型支持FLOAT16、FLOAT、BFLOAT16（仅Atlas A2训练系列产品/Atlas 800I A2推理产品支持），数据类型和shape与self相同，数据格式和self相同，支持ND，支持。

  • meanOut（aclTensor*,计算输出）：Device侧的aclTensor，公式中的$meanOut$，数据类型支持FLOAT16、FLOAT、BFLOAT16（仅Atlas A2训练系列产品/Atlas 800I A2推理产品支持），数据类型与self相同，shape为(N, group)，支持ND，支持。

  • rstdOut（aclTensor*,计算输出）：Device侧的aclTensor，公式中的$rstdOut$，数据类型支持FLOAT16、FLOAT、BFLOAT16（仅Atlas A2训练系列产品/Atlas 800I A2推理产品支持），数据类型与self相同，shape为(N, group)，支持ND，支持。

  • workspaceSize（uint64_t*, 出参）：返回用户需要在Device侧申请的workspace大小。

  • executor（aclOpExecutor**, 出参）：返回op执行器，包含算子计算流程。

• 返回值：

  aclnnStatus: 返回状态码，具体参见。

  [object Object]

aclnnGroupNorm

• 参数说明：

  • workspace（void*, 入参）：在Device侧申请的workspace内存地址。

  • workspaceSize（uint64_t, 入参）：在Device侧申请的workspace大小，由第一段接口aclnnGroupNormGetWorkspaceSize获取。

  • executor（aclOpExecutor*, 入参）：op执行器，包含了算子计算流程。

  • stream（aclrtStream, 入参）：指定执行任务的 AscendCL Stream流。

• 返回值：

  aclnnStatus：返回状态码，具体参见。

约束与限制

无。

调用示例

示例代码如下，仅供参考，具体编译和执行过程请参考。