昇腾社区首页
中文
注册

aclnnGroupNormSilu

产品支持情况

产品 是否支持
[object Object]Atlas A3 训练系列产品/Atlas A3 推理系列产品[object Object]
[object Object]Atlas A2 训练系列产品/Atlas 800I A2 推理产品/A200I A2 Box 异构组件[object Object]
[object Object]Atlas 200I/500 A2 推理产品[object Object] ×
[object Object]Atlas 推理系列产品 [object Object]
[object Object]Atlas 训练系列产品[object Object] ×

功能说明

  • 接口功能:计算输入self的组归一化结果groupnormOut,均值meanOut,标准差的倒数rstdOut,将groupnormOut进行silu运算得到最终的输出out。
  • 计算公式:
    • GroupNorm:E[x]=xˉE[x] = \bar{x}代表xx的均值,Var[x]=1ni=1n(xiE[x])2Var[x] = \frac{1}{n} * \sum_{i=1}^n(x_i - E[x])^2代表xx的方差,则{groupnormOut=xE[x]Var[x]+epsγ+βmeanOut=E[x]rstdOut=1Var[x]+eps\left\{ \begin{array} {rcl} groupnormOut& &= \frac{x - E[x]}{\sqrt{Var[x] + eps}} * \gamma + \beta \\ meanOut& &= E[x]\\ rstdOut& &= \frac{1}{\sqrt{Var[x] + eps}}\\ \end{array} \right.
    • Silu:out=groupnormOut1+egroupnormOutout = \frac{groupnormOut}{1+e^{-groupnormOut}}

函数原型

每个算子分为undefined,必须先调用“aclnnGroupNormSiluGetWorkspaceSize”接口获取计算所需workspace大小以及包含了算子计算流程的执行器,再调用“aclnnGroupNormSilu”接口执行计算。

  • aclnnStatus aclnnGroupNormSiluGetWorkspaceSize(const aclTensor *self, const aclTensor *gamma, const aclTensor *beta, int64_t group, double eps, aclTensor *out, aclTensor *meanOut, aclTensor *rstdOut, uint64_t *workspaceSize, aclOpExecutor **executor)
  • aclnnStatus aclnnGroupNormSilu(void *workspace, uint64_t workspaceSize, aclOpExecutor *executor, aclrtStream stream)

aclnnGroupNormSiluGetWorkspaceSize

  • 参数说明:

    • self(aclTensor*, 计算输入):out计算公式中的xx,维度需大于一维且小于等于八维,undefined支持ND,支持undefined
      • [object Object]Atlas 推理系列产品[object Object]:数据类型支持FLOAT16、FLOAT。
      • [object Object]Atlas A2 训练系列产品/Atlas 800I A2 推理产品/A200I A2 Box 异构组件[object Object]、[object Object]Atlas A3 训练系列产品/Atlas A3 推理系列产品[object Object]:数据类型支持FLOAT16、FLOAT、BFLOAT16。
    • gamma(aclTensor*, 计算输入):可选参数,out计算公式中的γ\gamma,维度为一维,元素数量需与输入selfself的第1维度保持相同,undefined支持ND,支持undefined
      • [object Object]Atlas 推理系列产品[object Object]:数据类型支持FLOAT16、FLOAT。
      • [object Object]Atlas A2 训练系列产品/Atlas 800I A2 推理产品/A200I A2 Box 异构组件[object Object]、[object Object]Atlas A3 训练系列产品/Atlas A3 推理系列产品[object Object]:数据类型支持FLOAT16、FLOAT、BFLOAT16。
    • beta(aclTensor*, 计算输入):可选参数,out计算公式中的β\beta,维度为一维,元素数量需与输入selfself的第1维度保持相同,undefined支持ND,支持undefined
      • [object Object]Atlas 推理系列产品[object Object]:数据类型支持FLOAT16、FLOAT。
      • [object Object]Atlas A2 训练系列产品/Atlas 800I A2 推理产品/A200I A2 Box 异构组件[object Object]、[object Object]Atlas A3 训练系列产品/Atlas A3 推理系列产品[object Object]:数据类型支持FLOAT16、FLOAT、BFLOAT16。
    • group(int, 计算输入): INT32或者INT64常量,表示将输入selfself的第1维度分为group组。
    • eps(double, 计算输入): DOUBLE常量,outrstdOut计算公式中的epseps值。
    • out(aclTensor*, 计算输出): 输出张量,数据类型和shape与selfself相同,undefined支持ND,支持undefined
      • [object Object]Atlas 推理系列产品[object Object]:数据类型支持FLOAT16、FLOAT。
      • [object Object]Atlas A2 训练系列产品/Atlas 800I A2 推理产品/A200I A2 Box 异构组件[object Object]、[object Object]Atlas A3 训练系列产品/Atlas A3 推理系列产品[object Object]:数据类型支持FLOAT16、FLOAT、BFLOAT16。
    • meanOut(aclTensor*, 计算输出): 输出张量,shape为(N, group),其中Nselfself的第0维度保持一致,undefined支持ND,支持undefined
      • [object Object]Atlas 推理系列产品[object Object]:数据类型与self相同。
      • [object Object]Atlas A2 训练系列产品/Atlas 800I A2 推理产品/A200I A2 Box 异构组件[object Object]、[object Object]Atlas A3 训练系列产品/Atlas A3 推理系列产品[object Object]:数据类型与self相同。
    • rstdOut(aclTensor*, 计算输出): 输出张量,shape为(N, group),其中Nselfself的第0维度保持一致,undefined支持ND,支持undefined
      • [object Object]Atlas 推理系列产品[object Object]:数据类型与self相同。
      • [object Object]Atlas A2 训练系列产品/Atlas 800I A2 推理产品/A200I A2 Box 异构组件[object Object]、[object Object]Atlas A3 训练系列产品/Atlas A3 推理系列产品[object Object]:数据类型与self相同。
    • workspaceSize(uint64_t*, 出参): 返回需要在Device侧申请的workspace大小。
    • executor(aclOpExecutor **, 出参): 返回op执行器,包含算子计算流程。
  • 返回值:

    aclnnStatus: 返回状态码,具体参见undefined

[object Object]

aclnnGroupNormSilu

  • 参数说明:

    • workspace(void*, 入参):在Device侧申请的workspace内存地址。
    • workspaceSize(uint64_t, 入参):在Device侧申请的workspace大小,由第一段接口aclnnGroupNormSiluGetWorkspaceSize获取。
    • executor(aclOpExecutor*, 入参):op执行器,包含了算子计算流程。
    • stream(aclrtStream, 入参):指定执行任务的Stream。
  • 返回值:

    aclnnStatus:返回状态码,具体参见undefined

约束说明

调用示例

示例代码如下,仅供参考,具体编译和执行过程请参考undefined

[object Object]