aclnnGroupNorm

支持的产品型号

• [object Object]Atlas 推理系列产品[object Object]。
• [object Object]Atlas 训练系列产品[object Object]。
• [object Object]Atlas A2 训练系列产品/Atlas 800I A2 推理产品[object Object]。

接口原型

每个算子分为undefined，必须先调用“aclnnGroupNormGetWorkspaceSize”接口获取计算所需workspace大小以及包含了算子计算流程的执行器，再调用“aclnnGroupNorm”接口执行计算。

• aclnnStatus aclnnGroupNormGetWorkspaceSize(const aclTensor *self, const aclTensor *gamma, const aclTensor *beta, int64_t N, int64_t C, int64_t HxW, int64_t group, double eps, aclTensor *out, aclTensor *meanOut, aclTensor *rstdOut, uint64_t *workspaceSize, aclOpExecutor **executor)
• aclnnStatus aclnnGroupNorm(void *workspace, uint64_t workspaceSize, aclOpExecutor *executor, aclrtStream stream)

功能描述

• 接口功能：计算输入self的组归一化结果out，均值meanOut，标准差的倒数rstdOut。
• 计算公式： 记 $x=self$, $E[x] = \bar{x}$代表$x$的均值，$Var[x] = \frac{1}{n - 1} * \sum_{i=1}^n(x_i - E[x])^2$代表$x$的样本方差，则$$\left\{ \begin{array} {rcl} out& &= \frac{x - E[x]}{\sqrt{Var[x] + eps}} * \gamma + \beta \\ meanOut& &= E[x]\\ rstdOut& &= \frac{1}{\sqrt{Var[x] + eps}}\\ \end{array} \right.$$

aclnnGroupNormGetWorkspaceSize

• 参数说明：

  • self（aclTensor*,计算输入）：Device侧的aclTensor，公式中的$x$，shape支持2-8维，undefined支持ND，支持undefined。

    • [object Object]Atlas 训练系列产品[object Object]、[object Object]Atlas 推理系列产品[object Object]：数据类型支持FLOAT16、FLOAT。
    • [object Object]Atlas A2 训练系列产品/Atlas 800I A2 推理产品[object Object]：数据类型支持FLOAT16、FLOAT、BFLOAT16。

  • gamma（aclTensor*,计算输入）：Device侧的aclTensor，公式中的$\gamma$，数据类型与self相同，shape仅支持1维，元素数量需与C相同,undefined支持ND，支持undefined。

    • [object Object]Atlas 训练系列产品[object Object]、[object Object]Atlas 推理系列产品[object Object]：数据类型支持FLOAT16、FLOAT。
    • [object Object]Atlas A2 训练系列产品/Atlas 800I A2 推理产品[object Object]：数据类型支持FLOAT16、FLOAT、BFLOAT16。

  • beta（aclTensor*,计算输入）：Device侧的aclTensor，公式中的$\beta$，数据类型与self相同，shape仅支持1维，元素数量需与C相同，undefined支持ND，支持undefined。

    • [object Object]Atlas 训练系列产品[object Object]、[object Object]Atlas 推理系列产品[object Object]：数据类型支持FLOAT16、FLOAT。
    • [object Object]Atlas A2 训练系列产品/Atlas 800I A2 推理产品[object Object]：数据类型支持FLOAT16、FLOAT、BFLOAT16。

  • N（int64_t,计算输入）：Host侧的int64常量，表示输入self在N维度上的空间大小。

  • C（int64_t,计算输入）：Host侧的int64常量，表示输入self在C维度上的空间大小。

  • HxW（int64_t,计算输入）：Host侧的int64常量，表示输入self在除N、C维度外的空间大小，若无其他维度则为1。

  • group（int64_t,计算输入）：Host侧的int64常量，表示将输入self的C维度分为group组，group需大于0。

  • eps（double,计算输入）：Host侧的double常量，out和rstdOut计算公式中的$eps$值，为数值稳定性而加到分母上的值，需大于0，若保持精度，则eps需大于等于1e-5。

  • out（aclTensor*,计算输出）：Device侧的aclTensor，公式中的$out$，数据类型和shape与self相同，数据格式和self相同，undefined支持ND，支持undefined。

    • [object Object]Atlas 训练系列产品[object Object]、[object Object]Atlas 推理系列产品[object Object]：数据类型支持FLOAT16、FLOAT。
    • [object Object]Atlas A2 训练系列产品/Atlas 800I A2 推理产品[object Object]：数据类型支持FLOAT16、FLOAT、BFLOAT16。

  • meanOut（aclTensor*,计算输出）：Device侧的aclTensor，公式中的$meanOut$，数据类型与self相同，shape为(N, group)，undefined支持ND，支持undefined。

    • [object Object]Atlas 训练系列产品[object Object]、[object Object]Atlas 推理系列产品[object Object]：数据类型支持FLOAT16、FLOAT。
    • [object Object]Atlas A2 训练系列产品/Atlas 800I A2 推理产品[object Object]：数据类型支持FLOAT16、FLOAT、BFLOAT16。

  • rstdOut（aclTensor*,计算输出）：Device侧的aclTensor，公式中的$rstdOut$，数据类型与self相同，shape为(N, group)，undefined支持ND，支持undefined。

    • [object Object]Atlas 训练系列产品[object Object]、[object Object]Atlas 推理系列产品[object Object]：数据类型支持FLOAT16、FLOAT。
    • [object Object]Atlas A2 训练系列产品/Atlas 800I A2 推理产品[object Object]：数据类型支持FLOAT16、FLOAT、BFLOAT16。

  • workspaceSize（uint64_t*, 出参）：返回需要在Device侧申请的workspace大小。

  • executor（aclOpExecutor**, 出参）：返回op执行器，包含算子计算流程。

• 返回值：

  aclnnStatus: 返回状态码，具体参见undefined。

  [object Object]

aclnnGroupNorm

• 参数说明：

  • workspace（void*, 入参）：在Device侧申请的workspace内存地址。

  • workspaceSize（uint64_t, 入参）：在Device侧申请的workspace大小，由第一段接口aclnnGroupNormGetWorkspaceSize获取。

  • executor（aclOpExecutor*, 入参）：op执行器，包含了算子计算流程。

  • stream（aclrtStream, 入参）：指定执行任务的AscendCL Stream流。

• 返回值：

  aclnnStatus：返回状态码，具体参见undefined。

约束与限制

无。

调用示例

示例代码如下，仅供参考，具体编译和执行过程请参考undefined。