昇腾社区首页
中文
注册

aclnnSiluBackward

支持的产品型号

  • Atlas 训练系列产品。
  • Atlas A2训练系列产品/Atlas 800I A2推理产品。

接口原型

每个算子分为,必须先调用“aclnnSiluBackwardGetWorkspaceSize”接口获取计算所需workspace大小以及包含了算子计算流程的执行器,再调用“aclnnSiluBackward”接口执行计算。

  • aclnnStatus aclnnSiluBackwardGetWorkspaceSize(const aclTensor *gradOutput, const aclTensor *self, aclTensor* gradInput, uint64_t *workspaceSize, aclOpExecutor **executor)
  • aclnnStatus aclnnSiluBackward(void *workspace, uint64_t workspaceSize, aclOpExecutor *executor, aclrtStream stream)

功能描述

  • 算子功能:silu的反向传播,根据silu反向传播梯度与正向输出计算silu的梯度输入。
  • 计算公式:
σ(x)=11+ex\sigma(x) = {\frac{1} {1+{e}^{-x}}} s(x)=xσ(x)s(x) = x\sigma(x) s(x)=σ(x)(1+xxσ(x))s^\prime(x) = \sigma(x)(1+x-x\sigma(x)) gradInput=gradOutputs(x)gradInput = gradOutput * s^\prime(x)

其中σ(x)\sigma(x)为sigmoid函数,s(x)s(x)为silu函数,s(x)s^\prime(x)为silu函数的导数。

aclnnSiluBackwardGetWorkspaceSize

  • 参数说明:

    • gradOutput(const aclTensor *,计算输入): Device侧的aclTensor,数据类型支持FLOAT、FLOAT16、BFLOAT16(仅Atlas A2训练系列产品/Atlas 800I A2推理产品支持)。支持非连续的Tensor,支持ND,且数据类型、shape需要与self, gradInput一致。

    • self(const aclTensor *,计算输入): Device侧的aclTensor,数据类型支持FLOAT、FLOAT16、BFLOAT16(仅Atlas A2训练系列产品/Atlas 800I A2推理产品支持)。支持非连续的Tensor,支持ND,且数据类型、shape需要与gradOutput, gradInput一致。

    • gradInput(aclTensor *,计算输出): Device侧的aclTensor,数据类型支持FLOAT、FLOAT16、BFLOAT16(仅Atlas A2训练系列产品/Atlas 800I A2推理产品支持)。支持非连续的Tensor,支持ND,且数据类型、shape需要与gradOutput, self一致。

    • workspaceSize(uint64_t *,出参):返回用户需要在Device侧申请的workspace大小。

    • executor(aclOpExecutor **,出参):返回op执行器,包含了算子计算流程。

  • 返回值:

​ aclnnStatus:返回状态码,具体参见

[object Object]

aclnnSiluBackward

  • 参数说明:

    • workspace(void *,入参):在Device侧申请的workspace内存地址。

    • workspaceSize(uint64_t,入参):在Device侧申请的workspace大小,由第一段接口aclnnSiluBackwardGetWorkspaceSize获取。

    • executor(aclOpExecutor,入参):op执行器,包含了算子计算流程。

    • stream(aclrtStream,入参):指定执行任务的 AscendCL Stream流。

  • 返回值:

    aclnnStatus:返回状态码,具体参见

约束与限制

无。

调用示例

示例代码如下,仅供参考,具体编译和执行过程请参考

[object Object]