昇腾社区首页
中文
注册
开发者
下载

aclnnGeluBackward

产品支持情况

[object Object]undefined

功能说明

  • 接口功能:完成的反向。

  • 计算公式:

    Gelu正向(其中x可以为标量或者Tensor):

    Gelu(x)=xΦ(x)=x/2[1+erf(x/2)]Gelu(x)=x \cdot \Phi(x)=x/2 \cdot [1+erf(x/\sqrt{2})]

    其中erf的计算公式为:

    erf(x)=2πn=0(1)nx2n+1n!(2n+1)erf(x)=\frac{2}{\sqrt \pi}\sum^{\infty}_{n=0}{\frac{(-1)^n \cdot x^{2n+1}}{n! \cdot (2n+1)}}

    gradInput和gradOutput的关系可以表示为:

    gradInput=gradOutput(12+12erf(x2)+x2πex22)gradInput = gradOutput \cdot (\frac{1}{2}+\frac{1}{2} \cdot erf(\frac{x}{\sqrt2})+\frac{x}{\sqrt{2\pi}} \cdot e^{-\frac{x^2}{2}})

    Gelu近似计算公式为:

    Gelu(x)=0.5x(1+tanh(2/π(x+0.044715x3)))Gelu(x)=0.5x(1+tanh(\sqrt{2/\pi}(x+0.044715x^3)))

函数原型

每个算子分为,必须先调用“aclnnGeluBackwardGetWorkspaceSize”接口获取计算所需workspace大小以及包含了算子计算流程的执行器,再调用“aclnnGeluBackward”接口执行计算。

[object Object]
[object Object]

aclnnGeluBackwardGetWorkspaceSize

  • 参数说明:

    [object Object]
    • [object Object]Atlas 推理系列产品[object Object]、[object Object]Atlas 训练系列产品[object Object]:数据类型支持FLOAT、FLOAT16。
  • 返回值:

    aclnnStatus:返回状态码,具体参见。 第一段接口会完成入参校验,出现以下场景时报错:

    [object Object]

aclnnGeluBackward

  • 参数说明:

    [object Object]
  • 返回值:

    aclnnStatus:返回状态码,具体参见

约束说明

  • 确定性计算:
    • aclnnGeluBackward默认确定性实现。

调用示例

示例代码如下,仅供参考,具体编译和执行过程请参考

[object Object]