- [object Object]Atlas A2 训练系列产品/Atlas 800I A2 推理产品/A200I A2 Box 异构组件[object Object]。
- [object Object]Atlas A3 训练系列产品/Atlas A3 推理系列产品[object Object]。
每个算子分为,必须先调用“aclnnGeluMulGetWorkspaceSize”接口获取入参并根据计算流程计算所需workspace大小,再调用“aclnnGeluMul”接口执行计算。
[object Object][object Object]
算子功能:
将输入Tensor按照最后一个维度分为左右两个Tensor:x1和x2,对左边的x1进行Gelu计算,将计算结果与x2相乘。
计算公式:
给定输入张量
[object Object],最后一维的长度为[object Object],函数[object Object]进行以下计算:将
[object Object]分割为两部分:对 x1 应用 GELU 激活函数,"tanh"模式公式如下:
“none”对应的erf模式公式如下:
因此,计算:
最终输出是 x1 和 x2 的逐元素乘积:
参数说明:
- input(aclTensor*,计算输入):输入张量,公式中的
[object Object],Device侧的aclTensor,数据类型支持BFLOAT16、FLOAT16、FLOAT。shape维度2至8维。支持,支持ND,要求输入shape的最后一个维度的值为偶数。 - approximateOptional(char*,计算输入):Gelu计算的模式,只支持
[object Object]和[object Object],分别对应Gelu的erf模式和tanh模式,输入为空指针时为“none”。 - out(aclTensor*,计算输出):输出张量,公式中的输出
[object Object],Device侧的aclTensor,数据类型支持BFLOAT16、FLOAT16、FLOAT。shape维度2至8维。支持,支持ND,输出的数据类型与输入保持一致,输出shape和输入shape其他维度一致,最后一维的值为输入shape最后一维值的二分之一。 - workspaceSize(uint64_t*,出参):返回用户需要在Device侧申请的workspace大小。
- executor(aclOpExecutor**,出参):返回op执行器,包含了算子计算流程。
- input(aclTensor*,计算输入):输入张量,公式中的
返回值:
[object Object]
参数说明:
- workspace(void*,入参):在Device侧申请的workspace内存地址。
- workspaceSize(uint64_t,入参):在Device侧申请的workspace大小,由第一段接口aclnnForeachAbsGetWorkspaceSize获取。
- executor(aclOpExecutor*,入参):op执行器,包含了算子计算流程。
- stream(aclrtStream,入参):指定执行任务的AscendCL Stream流。
返回值:
无。
[object Object]