昇腾社区首页
中文
注册

torch_npu.npu_gelu

功能说明

  • 算子功能:计算高斯误差线性单元的激活函数。

  • 计算公式:

    Gaussian Error Linear Unit(GELU)的表达式为:

    Φ(x)是Gaussian Distribution的CDF(Cumulative Distribution Function), 表达式为:

函数原型

[object Object]

参数说明

  • input (Tensor):公式中的xx,待进行npu_gelu计算的入参,数据格式支持NDND,支持非连续的Tensor。输入最大支持8维。

    • [object Object]Atlas 训练系列产品[object Object]:数据类型支持float16float32
    • [object Object]Atlas A2 训练系列产品/Atlas 800I A2 推理产品/A200I A2 Box 异构组件[object Object]:数据类型支持float32float16bfloat16
    • [object Object]Atlas 推理系列产品[object Object]:数据类型支持float16float32
  • approximate (Tensor):字符串类型,可选参数,计算使用的激活函数模式,可配置为"none"或者"tanh"。其中"none"代表使用erf模式,"tanh"代表使用tanh模式。

返回值

Tensor

数据类型必须和input一样,数据格式支持NDND,shape必须和input一样,支持非连续的Tensor。输入最大支持8维。

  • [object Object]Atlas 训练系列产品[object Object]:数据类型支持float16float32
  • [object Object]Atlas A2 训练系列产品/Atlas 800I A2 推理产品/A200I A2 Box 异构组件[object Object]:数据类型支持float32float16bfloat16
  • [object Object]Atlas 推理系列产品[object Object]:数据类型支持float16float32

约束说明

  • 该接口支持图模式(PyTorch 2.1版本)。
  • input输入不能含有空指针。

支持的型号

  • [object Object]Atlas 训练系列产品[object Object]
  • [object Object]Atlas A2 训练系列产品/Atlas 800I A2 推理产品/A200I A2 Box 异构组件[object Object]
  • [object Object]Atlas 推理系列产品[object Object]

调用示例

  • 单算子模式调用

    [object Object]
  • 图模式调用

    [object Object]