aclnnGlu

支持的产品型号

• Atlas 推理系列产品。
• Atlas 训练系列产品。
• Atlas A2训练系列产品/Atlas 800I A2推理产品。

接口原型

每个算子分为undefined，必须先调用“aclnnGluGetWorkspaceSize”接口获取计算所需workspace大小以及包含了算子计算流程的执行器，再调用“aclnnGlu”接口执行计算。

• aclnnStatus aclnnGluGetWorkspaceSize(const aclTensor *self, int64_t dim, const aclTensor *out, uint64_t *workspaceSize, aclOpExecutor **executor)
• aclnnStatus aclnnGlu(void *workspace, uint64_t workspaceSize, aclOpExecutor *executor, aclrtStream stream)

功能描述

• 算子功能：GLU是一个门控线性单元函数，它将输入张量沿着指定的维度dim平均分成两个张量，并将其前部分张量与后部分张量的Sigmoid函数输出的结果逐元素相乘。
• 计算表达式：$$GLU(a,b)=a \otimes \sigma(b)$$ a表示的是输入张量根据指定dim进行均分后的前部分张量，b表示后半部分张量。

aclnnGluGetWorkspaceSize

• 参数说明：

  • self(aclTensor*): 数据类型支持DOUBLE,FLOAT,BFLOAT16（仅Atlas A2训练系列产品/Atlas 800I A2推理产品支持）,FLOAT16数据类型，tensor的维度必须大于0，且shape必须在入参dim对应的维度上可以整除2，shape表示为$(*_1,N,*_2)$其中$*$表示任何数量的附加维，$N$表示dim指定的维度大小，支持undefined，undefined支持ND。
  • dim(int64_t): 表示要拆分输入self的维度，数据类型支持INT64，取值范围[-self.dim，self.dim-1]。
  • out(aclTensor*): 数据类型支持DOUBLE,FLOAT,BFLOAT16（仅Atlas A2训练系列产品/Atlas 800I A2推理产品支持）,FLOAT16数据类型，数据类型必须可以由self cast得到，shape为$(*_1,M,*_2)$其中$*$表示self中对应维度，$M = N /2$，支持undefined，undefined支持ND。
  • workspaceSize(uint64_t*, 出参): 返回需要在Device侧申请的workspace大小。
  • executor(aclOpExecutor**, 出参): 返回op执行器，包含了算子计算流程。

• 返回值：

  aclnnStatus: 返回状态码，具体参见undefined。

  [object Object]

aclnnGlu

• 参数说明：

  • workspace(void *, 入参): 在Device侧申请的workspace内存地址。
  • workspaceSize(uint64_t, 入参): 在Device侧申请的workspace大小，由第一段接口aclnnGluGetWorkspaceSize获取。
  • executor(aclOpExecutor *, 入参): op执行器，包含了算子计算流程。
  • stream(aclrtStream, 入参): 指定执行任务的AscendCL Stream流。

• 返回值：

  aclnnStatus: 返回状态码，具体参见undefined。

约束与限制

无

调用示例

示例代码如下，仅供参考，具体编译和执行过程请参考undefined。