---
title: 功能列表
description: "- 使用参数"
url: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0133.html
sourcePath: /source/zh/canncommercial/900/API/ascendtb/ascendtb_01_0133.html
indexId: 26f9a87dbfdc3b2433242cc1ef4f99d98936d2886755b35234321160d1b5563b64
---
# 功能列表

#### RELU激活类型功能

- 使用参数
  activationType = ACTIVATION_RELU

- 函数图
- 表达式


#### GELU激活类型功能

- Tanh近似计算

  - 使用参数

    - activationType = ACTIVATION_GELU
    - geluMode = TANH_MODE
  - 函数图
  - 表达式
  - 约束说明
    不支持 Atlas 200I/500 A2 推理产品 。

- 非近似计算

  - 使用参数

    - activationType = ACTIVATION_GELU
    - geluMode = NONE_MODE
  - 函数图
  - 表达式
    是高斯分布的累积分布函数


#### FAST_GELU激活类型功能

- 使用参数
  activationType = ACTIVATION_FAST_GELU

- 函数图
- 表达式


#### SWISH激活类型功能

- 使用参数

  - activationType = ACTIVATION_SWISH
  - scale
- 函数图
  跟所输入的参数scale有关，当scale=1时

- 表达式


#### LOG激活类型功能

- 使用参数
  activationType = ACTIVATION_LOG

- 表达式


#### SWIGLU_FORWARD激活类型功能

- 使用参数

  - activationType = ACTIVATION_SWIGLU_FORWARD
  - dim
- 表达式
  a、b为对输入tensor沿最后一维进行均分。

- 约束说明
  dim只可以沿最后一维进行均分，必须传入-1。

  对于 Atlas 推理系列产品 ，仅支持32位对齐的数据。

  不支持 Atlas 200I/500 A2 推理产品 。


#### SWIGLU_BACKWARD激活类型功能

- 使用参数

  - activationType = ACTIVATION_SWIGLU_BACKWARD
  - dim
- 表达式
  x1为输入tensor1

  x2为输入tensor2

  a、b为对x2沿最后一维进行均分

- 约束说明
  dim只可以沿最后一维进行均分，必须传入-1。

  当前仅支持 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 和 Atlas A3 推理系列产品 / Atlas A3 训练系列产品 。


#### SIGMOID激活类型功能

- 使用参数
  activationType = ACTIVATION_SIGMOID

- 函数图
- 表达式


#### FASTER_GELU_FORWARD激活类型功能

- 使用参数
  activationType = ACTIVATION_FASTER_GELU_FORWARD

- 表达式
- 约束说明
  不支持 Atlas 200I/500 A2 推理产品 。