---
title: ActivationType
description: "激活函数类型枚举。"
url: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0044.html
sourcePath: /source/zh/canncommercial/900/API/ascendtb/ascendtb_01_0044.html
indexId: ea54bce9985e7e27edbac5e00e136b37c6b12a6c7776519991e45b322a0f23e764
---
# ActivationType

#### 功能说明

激活函数类型枚举。


#### 定义

```
enum ActivationType : int {
    ACTIVATION_UNDEFINED = 0,
    ACTIVATION_RELU,
    ACTIVATION_GELU,
    ACTIVATION_FAST_GELU,
    ACTIVATION_SWISH,
    ACTIVATION_LOG,
    ACTIVATION_SWIGLU_FORWARD,
    ACTIVATION_SWIGLU_BACKWARD,
    ACTIVATION_SIGMOID,
    ACTIVATION_FASTER_GELU_FORWARD,
    ACTIVATION_MAX
};
```


#### 成员

| 成员名称 | 描述 |
| --- | --- |
| ACTIVATION\_UNDEFINED | 未定义。 |
| ACTIVATION\_RELU | ReLU激活类型。 |
| ACTIVATION\_GELU | GELU激活类型。 |
| ACTIVATION\_FAST\_GELU | FAST\_GELU激活类型。 快速运算的GELU激活函数，对Tensor内每个element做GELU激活函数近似计算，计算速度更快，同时保持较高的准确性。 |
| ACTIVATION\_SWISH | SWISH激活类型。 |
| ACTIVATION\_LOG | LOG激活类型。 |
| ACTIVATION\_SWIGLU\_FORWARD | SWIGLU\_FORWARD激活类型。 SWIGLU正向激活函数。对于 Atlas 推理系列产品 ，仅支持32位对齐的数据。 |
| ACTIVATION\_SWIGLU\_BACKWARD | SWIGLU\_BACKWARD激活类型。 SWIGLU正向激活函数的反向，求梯度时使用。当前仅支持 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 和 Atlas A3 推理系列产品 / Atlas A3 训练系列产品 。 |
| ACTIVATION\_SIGMOID | SIGMOID激活类型。 |
| ACTIVATION\_FASTER\_GELU\_FORWARD | FASTER\_GELU\_FORWARD激活类型。 |
| ACTIVATION\_MAX | 枚举最大值，非激活类型。 |