torch_npu.npu_gelu
功能说明
算子功能:计算高斯误差线性单元的激活函数。
计算公式:
Gaussian Error Linear Unit(GELU)的表达式为:
Φ(x)是Gaussian Distribution的CDF(Cumulative Distribution Function), 表达式为:
函数原型
[object Object]
参数说明
input (
Tensor
):公式中的,待进行npu_gelu
计算的入参,数据格式支持,支持非连续的Tensor。输入最大支持8维。- [object Object]Atlas 训练系列产品[object Object]:数据类型支持
float16
、float32
。 - [object Object]Atlas A2 训练系列产品/Atlas 800I A2 推理产品/A200I A2 Box 异构组件[object Object]:数据类型支持
float32
、float16
、bfloat16
。 - [object Object]Atlas 推理系列产品[object Object]:数据类型支持
float16
、float32
。
- [object Object]Atlas 训练系列产品[object Object]:数据类型支持
approximate (
Tensor
):字符串类型,可选参数,计算使用的激活函数模式,可配置为"none"
或者"tanh"
。其中"none"
代表使用erf模式,"tanh"
代表使用tanh模式。
返回值
Tensor
数据类型必须和input
一样,数据格式支持,shape必须和input
一样,支持非连续的Tensor。输入最大支持8维。
- [object Object]Atlas 训练系列产品[object Object]:数据类型支持
float16
、float32
。 - [object Object]Atlas A2 训练系列产品/Atlas 800I A2 推理产品/A200I A2 Box 异构组件[object Object]:数据类型支持
float32
、float16
、bfloat16
。 - [object Object]Atlas 推理系列产品[object Object]:数据类型支持
float16
、float32
。
约束说明
- 该接口支持图模式(PyTorch 2.1版本)。
input
输入不能含有空指针。
支持的型号
- [object Object]Atlas 训练系列产品[object Object]
- [object Object]Atlas A2 训练系列产品/Atlas 800I A2 推理产品/A200I A2 Box 异构组件[object Object]
- [object Object]Atlas 推理系列产品[object Object]
调用示例
单算子模式调用
[object Object]图模式调用
[object Object]