aclnnForeachNonFiniteCheckAndUnscale

产品支持情况

产品	是否支持
[object Object]Atlas A3 训练系列产品/Atlas A3 推理系列产品[object Object]	√
[object Object]Atlas A2 训练系列产品/Atlas 800I A2 推理产品/A200I A2 Box 异构组件[object Object]	√
[object Object]Atlas 200I/500 A2 推理产品[object Object]	×
[object Object]Atlas 推理系列产品 [object Object]	√
[object Object]Atlas 训练系列产品[object Object]	×

功能说明

• 算子功能：遍历scaledGrads中的所有Tensor，检查是否存在inf或NaN，如果存在则将foundInf设置为1.0，否则foundInf保持不变，并对scaledGrads中的所有Tensor进行反缩放。

• 计算公式：

  $$foundInf = \begin{cases}1.0, & 当 inf \in scaledGrads 或 Nan \in scaledGrads,\\ foundInf, &其他. \end{cases}$$ $$scaledGrads_i = {scaledGrads}_{i}*{invScale}.$$

函数原型

每个算子分为undefined，必须先调用“aclnnForeachNonFiniteCheckAndUnscaleGetWorkspaceSize”接口获取入参并根据计算流程计算所需workspace大小，再调用“aclnnForeachNonFiniteCheckAndUnscale”接口执行计算。

• aclnnStatus aclnnForeachNonFiniteCheckAndUnscaleGetWorkspaceSize(const aclTensorList *scaledGrads, const aclTensor *foundInf, const aclTensor *invScale, uint64_t *workspaceSize, aclOpExecutor **executor)
• aclnnStatus aclnnForeachNonFiniteCheckAndUnscale(void *workspace, uint64_t workspaceSize, aclOpExecutor *executor, aclrtStream stream)

aclnnForeachNonFiniteCheckAndUnscaleGetWorkspaceSize

• 参数说明：

  • scaledGrads(aclTensorList*，计算输入/输出)：公式中的scaledGrads，表示进行反缩放计算的输入和输出张量列表。Device侧的aclTensorList，数据类型支持FLOAT、FLOAT16、BFLOAT16。undefined支持ND。不支持undefined，支持的最大长度为256个。
  • foundInf(aclTensor*，计算输入/输出)：公式中的foundInf，表示用来标记输入scaledGrads中是否存在inf或-inf的标量。Device侧的aclTensor，仅包含一个元素。undefined支持ND。不支持undefined。数据类型支持FLOAT。
  • invScale(aclTensor*，计算输入)：公式中的invScale，表示进行反缩放计算的标量。Device侧的aclTensor，仅包含一个元素。undefined支持ND。支持undefined。数据类型支持FLOAT。
  • workspaceSize(uint64_t*，出参)：返回用户需要在Device侧申请的workspace大小。
  • executor(aclOpExecutor**，出参)：返回op执行器，包含了算子计算流程。

• 返回值：

  aclnnStatus：返回状态码，具体参见undefined。

  [object Object]

aclnnForeachNonFiniteCheckAndUnscale

• 参数说明：

  • workspace(void*，入参)：在Device侧申请的workspace内存地址。
  • workspaceSize(uint64_t，入参)：在Device侧申请的workspace大小，由第一段接口aclnnForeachNonFiniteCheckAndUnscaleGetWorkspaceSize获取。
  • executor(aclOpExecutor*，入参)：op执行器，包含了算子计算流程。
  • stream(aclrtStream，入参)：指定执行任务的Stream。

• 返回值：

  aclnnStatus：返回状态码，具体参见undefined。

约束说明

无。

调用示例

示例代码如下，仅供参考，具体编译和执行过程请参考undefined。