aclnnGroupNormSwish

产品支持情况

产品	是否支持
[object Object]Atlas A3 训练系列产品/Atlas A3 推理系列产品[object Object]	√
[object Object]Atlas A2 训练系列产品/Atlas 800I A2 推理产品/A200I A2 Box 异构组件[object Object]	√
[object Object]Atlas 200I/500 A2 推理产品[object Object]	×
[object Object]Atlas 推理系列产品 [object Object]	×
[object Object]Atlas 训练系列产品[object Object]	×

功能说明

• 接口功能：计算输入x的组归一化结果out，均值meanOut，标准差的倒数rstdOut，以及swish的输出。
• 计算公式：

  • GroupNorm: 记 $E[x] = \bar{x}$代表$x$的均值，$Var[x] = \frac{1}{n} * \sum_{i=1}^n(x_i - E[x])^2$代表$x$的方差，则

    $$\left\{ \begin{array} {rcl} yOut& &= \frac{x - E[x]}{\sqrt{Var[x] + eps}} * \gamma + \beta \\ meanOut& &= E[x]\\ rstdOut& &= \frac{1}{\sqrt{Var[x] + eps}}\\ \end{array} \right.$$

  • Swish:

    $$yOut = \frac{x}{1+e^{-scale * x}}$$

    当activateSwish为True时，会计算Swish， 此时swish计算公式的x为GroupNorm公式得到的out。

函数原型

每个算子分为undefined，必须先调用“aclnnGroupNormSwishGetWorkspaceSize”接口获取计算所需workspace大小以及包含了算子计算流程的执行器，再调用“aclnnGroupNormSwish”接口执行计算。

• aclnnStatus aclnnGroupNormSwishGetWorkspaceSize(const aclTensor *x, const aclTensor *gamma, const aclTensor *beta, int64_t numGroups, char *dataFormatOptional, double eps, bool activateSwish, double swishScale, const aclTensor *yOut, const aclTensor *meanOut, const aclTensor *rstdOut, uint64_t *workspaceSize, aclOpExecutor **executor)
• aclnnStatus aclnnGroupNormSwish(void *workspace, uint64_t workspaceSize, aclOpExecutor *executor, aclrtStream stream)

aclnnGroupNormSwishGetWorkspaceSize

• 参数说明：

  • x（aclTensor*， 计算输入）：表示待组归一化的目标张量，yOut计算公式中的$x$，维度需大于一维，要求x第0维和第1维大于0，第1维要求能被group整除，Device侧的aclTensor。数据类型支持FLOAT32、FLOAT16、BFLOAT16，undefined支持ND，支持undefined。
  • gamma（aclTensor*， 计算输入）：表示组归一化中的 gamma 参数，yOut计算公式中的$\gamma$，维度为一维，元素数量需与输入$x$的第1维度相同，gamma与beta的数据类型必须保持一致，且数据类型与x相同或者为FLOAT，Device侧的aclTensor。数据类型支持FLOAT32、FLOAT16、BFLOAT16，undefined支持ND，支持undefined。
  • beta（aclTensor*， 计算输入）：表示组归一化中的 beta 参数，yOut计算公式中的$\beta$，维度为一维，元素数量需与输入$x$的第1维度相同，gamma与beta的数据类型必须保持一致，且数据类型与x相同或者为FLOAT，Device侧的aclTensor。数据类型支持FLOAT32、FLOAT16、BFLOAT16，undefined支持ND，支持undefined。
  • numGroups（int64_t， 计算输入）：表示将输入$x$的第1维度分为group组，值范围大于0，Host侧的整数。
  • dataFormatOptional（char*，计算输入）：表示数据格式，当前版本只支持输入NCHW，Host侧的字符类型。
  • eps（double， 计算输入）：用于防止产生除0的偏移，yOut和rstdOut计算公式中的$eps$值，值范围大于0，Host侧的DOUBLE类型。
  • activateSwish（bool， 计算输入）：表示是否支持swish计算。如果设置为true，则表示groupnorm计算后继续swish计算，Host侧的BOOL类型。
  • swishScale（double， 计算输入）：表示Swish计算时的$scale$值，Host侧的DOUBLE类型。
  • yOut（aclTensor*， 计算输出）：表示组归一化结果，数据类型和shape与$x$相同，Device 侧的aclTensor。数据类型支持FLOAT32、FLOAT16、BFLOAT16，undefined支持ND，支持undefined。
  • meanOut（aclTensor*， 计算输出）：表示x分组后的均值，数据类型与$gamma$相同，shape为(N， numGroups)，其中N表示$x$第0维度的大小，numGroups为计算输入，表示将输入$x$的第1维度分为group组，Device 侧的aclTensor。数据类型支持FLOAT32、FLOAT16、BFLOAT16，undefined支持ND，支持undefined。
  • rstdOut（aclTensor*， 计算输出）：表示x分组后的标准差的倒数，数据类型与$gamma$相同，shape为(N， numGroups)，其中N表示$x$第0维度的大小，numGroups为计算输入，表示将输入$x$的第1维度分为group组，Device 侧的aclTensor。数据类型支持FLOAT32、FLOAT16、BFLOAT16，undefined支持ND，支持undefined。
  • workspaceSize（uint64_t*， 出参）：返回需要在Device侧申请的workspace大小。
  • executor（aclOpExecutor **， 出参）：返回op执行器，包含算子计算流程。

• 返回值：

  aclnnStatus：返回状态码，具体参见undefined。

aclnnGroupNormSwish

• 参数说明：

  • workspace(void*, 入参)：在Device侧申请的workspace内存地址。
  • workspaceSize(uint64_t, 入参)：在Device侧申请的workspace大小，由第一段接口aclnnGroupNormSwishGetWorkspaceSize获取。
  • executor(aclOpExecutor*, 入参)：op执行器，包含了算子计算流程。
  • stream(aclrtStream, 入参)：指定执行任务的Stream。

• 返回值：

  aclnnStatus：返回状态码，具体参见undefined。

约束说明

无

调用示例

示例代码如下，仅供参考，具体编译和执行过程请参考undefined。