aclnnExpSegsum

产品支持情况

产品	是否支持
[object Object]Atlas A3 训练系列产品/Atlas A3 推理系列产品[object Object]	√
[object Object]Atlas A2 训练系列产品/Atlas 800I A2 推理产品/A200I A2 Box 异构组件[object Object]	√
[object Object]Atlas 200I/500 A2 推理产品[object Object]	×
[object Object]Atlas 推理系列产品 [object Object]	×
[object Object]Atlas 训练系列产品[object Object]	×

功能说明

• 算子功能：进行分段和计算。生成对角线为0的半可分矩阵，且上三角为-inf。

• 计算公式（以4D输入为例）：

  1. 输入self由（N1,N2,N3,N4）升维成（N1,N2,N3,N4,1）。
  2. 进行广播得到（N1,N2,N3,N4,N4）。
  3. 生成（N4,N4）类型为bool的三角矩阵A，上三角为True，下三角为False，对角线为True。
  4. 用0填充输入self里面与矩阵A中值为True的位置相对应的元素。
  $$self_i= \begin{cases}self_i,\quad A_i==False \\0, \quad A_i==True \end{cases}$$

  5. 以self的倒数第二维进行cumsum累加。从维度视角来看的某个元素（其它维度下标不变，当前维度下标依次递增），$selfTemp\_{i}$是输出张量中对应位置的元素。

     $$selfTemp_{i} = self_{1} + self_{2} + self_{3} + ...... + self_{i}$$

  6. 生成（N4,N4）类型为bool的三角矩阵B，上三角为True，下三角为False，对角线为False。

  7. 用-inf填充selfTemp里面与矩阵B中值为True的位置相对应的元素。

     $$out_i= \begin{cases}selfTemp_i,\quad B_i==False \\-inf, \quad B_i==True \end{cases}$$

  8. 计算selfTemp里面每个元素的指数。

     $$out_i=e^{selfTemp_i}$$

函数原型

每个算子分为undefined，必须先调用“aclnnExpSegsumGetWorkspaceSize”接口获取计算所需workspace大小以及包含了算子计算流程的执行器，再调用“aclnnExpSegsum”接口执行计算。

• aclnnStatus aclnnExpSegsumGetWorkspaceSize(const aclTensor *self, aclTensor *out, uint64_t *workspaceSize, aclOpExecutor **executor)
• aclnnStatus aclnnExpSegsum(void *workspace, uint64_t workspaceSize, aclOpExecutor *executor, aclrtStream stream)

aclnnExpSegsumGetWorkspaceSize

• 参数说明：

  • self（aclTensor*，计算输入）：Device侧的aclTensor。对应公式中的self，进行分段和计算的输入。数据类型支持FLOAT、BFLOAT16、FLOAT16。支持undefined，支持空Tensor。undefined支持ND。输入维度支持3D或4D。尾轴过大时输出占用空间过大，例如：输入尾轴为N时，输出占用内存是输入占用内存的N倍。

  • out（aclTensor*，计算输出）：Device侧的aclTensor。对应公式中的out，完成分段和计算后的输出。数据类型支持FLOAT、BFLOAT16、FLOAT16。支持undefined，支持空Tensor。undefined支持ND。输出维度必须比输入维度大1，支持4D或5D。当输入self为3D时，输出前3维的维度大小与self的保持一致，最后1维的维度大小与第3维保持一致。当输入self为4D时，输出前4维的维度大小与self的保持一致，最后1维的维度大小与第4维保持一致。数据类型与输入self的保持一致。

  • workspaceSize（uint64_t*，出参）：返回需要在Device侧申请的workspace大小。

  • executor（aclOpExecutor**，出参）：返回op执行器，包含了算子计算流程。

• 返回值：

  aclnnStatus：返回状态码，具体参见undefined。

  [object Object]

aclnnExpSegsum

• 参数说明：

  • workspace（void*，入参）：在Device侧申请的workspace内存地址。
  • workspaceSize（uint64_t，入参）：在Device侧申请的workspace大小，由第一段接口aclnnExpSegsumGetWorkspaceSize获取。
  • executor（aclOpExecutor*，入参）：op执行器，包含了算子计算流程。
  • stream（aclrtStream，入参）：指定执行任务的Stream。

• 返回值：

  aclnnStatus：返回状态码，具体参见undefined。

约束说明

无。

调用示例

示例代码如下，仅供参考，具体编译和执行过程请参考undefined。