aclnnInplaceQuantScatter

支持的产品型号

• Atlas A2训练系列产品/Atlas 800I A2推理产品。
• Atlas 推理系列产品。

接口原型

每个算子分为undefined，必须先调用“aclnnInplaceQuantScatterGetWorkspaceSize”接口获取计算所需workspace大小以及包含了算子计算流程的执行器，再调用“aclnnInplaceQuantScatter”接口执行计算。

• aclnnStatus aclnnInplaceQuantScatterGetWorkspaceSize(aclTensor *selfRef, const aclTensor *indices, const aclTensor *updates, const aclTensor *quantScales, const aclTensor *quantZeroPoints, int64_t axis, int64_t quantAxis, int64_t reduction, uint64_t *workspaceSize, aclOpExecutor **executor)
• aclnnStatus aclnnInplaceQuantScatter(void *workspace, uint64_t workspaceSize, aclOpExecutor *executor, aclrtStream stream)

功能描述

先将updates进行量化，然后将updates中的值按指定的轴axis和索引indices逐个更新selfRef中的值。

aclnnInplaceQuantScatterGetWorkspaceSize

• 参数说明：

  • selfRef(aclTensor*, 计算输入|计算输出)：Device侧的Tensor，源数据张量，数据类型支持INT8，undefined支持ND，支持undefined。
  • indices(aclTensor*, 计算输入)：Device侧的Tensor，索引张量，数据类型支持INT32、INT64类型，undefined支持ND，支持undefined。
  • updates(aclTensor*, 计算输入)：Device侧的Tensor，更新数据张量，数据类型支持BFLOAT16（仅Atlas A2训练系列产品/Atlas 800I A2推理产品支持）、FLOAT16类型，undefined支持ND，支持undefined。
  • quantScales(aclTensor*, 计算输入)：Device侧的Tensor，量化缩放张量，数据类型支持BFLOAT16（仅Atlas A2训练系列产品/Atlas 800I A2推理产品支持）、FLOAT32类型，支持undefined，undefined支持ND。
  • quantZeroPoints(aclTensor*, 计算输入)：Device侧的Tensor，量化偏移张量，数据类型支持BFLOAT16（仅Atlas A2训练系列产品/Atlas 800I A2推理产品支持）、INT32类型，支持undefined，undefined支持ND，可选参数。
  • axis(int64_t, 计算输入)：updates上用来更新的轴，数据类型为INT64。
  • quantAxis(int64_t, 计算输入)：updates上用来量化的轴，数据类型为INT64。
  • reduction(int64_t, 计算输入)：指定数据操作方式，数据类型为INT64。
  • workspaceSize(uint64_t *，出参)：返回需要在Device侧申请的workspace大小。
  • executor(aclOpExecutor **，出参)：返回op执行器，包含了算子计算流程。

• 返回值：

  返回aclnnStatus状态码，具体参见undefined。

  说明： 第一段接口完成入参校验，若出现以下错误码，则对应原因为：

  • 161001 (ACLNN_ERR_PARAM_NULLPTR)：如果传入参数是必选输入，输出或者必选属性，且是空指针，则返回161001。
  • 161002 (ACLNN_ERR_PARAM_INVALID)：
    • selfRef、indices、updates、quantScales、quantZeroPoints数据类型不在支持范围内。
    • selfRef和updates的维度数不一致。

aclnnInplaceQuantScatter

• 参数说明：

  • workspace(void*，入参)：在Device侧申请的workspace内存地址。
  • workspaceSize(uint64_t*，入参)：在Device侧申请的workspace大小，由第一段接口aclnnInplaceQuantScatterGetWorkspaceSize获取。
  • executor(aclOpExecutor *，入参)：op执行器，包含了算子计算流程。
  • stream(aclrtStream，入参)：指定执行任务的AscendCL stream流。

• 返回值：

  返回aclnnStatus状态码，具体参见undefined。

约束与限制

• selfRef的维数只能是3~8维。
• indices的维数只能是1维或者2维；如果是2维，其第2维的大小必须是2；不支持索引越界，索引越界不校验；indices映射的selfRef数据段不能重合，若重合则会因为多核并发原因导致多次执行结果不一样。
• updates的维数需要与selfRef的维数一样；其第1维的大小等于indices的第1维的大小，且不大于selfRef的第1维的大小；其axis轴的大小不大于selfRef的axis轴的大小；其余维度的大小要跟selfRef对应维度的大小相等；其最后一维的大小必须32B对齐。
• quantScales的元素个数需要等于updates在quantAxis轴的大小。
• quantZeroPoints的元素个数需要等于updates在quantAxis轴的大小。
• axis不能为updates的第1维或者最后1维。
• quantAxis只能为updates的最后1维。
• reduction当前只支持1('update')。
• selfRef,indices,updates,quantScales,quantZeroPoints数据类型输入组合包括：(INT8, INT32，BFLOAT16, BFLOAT16, BFLOAT16)、(INT8, INT64，BFLOAT16, BFLOAT16, BFLOAT16)、(INT8, INT32，FLOAT16, FLOAT32, INT32)、(INT8, INT64，FLOAT16, FLOAT32, INT32)，其中涉及BFLOAT16的组合（仅Atlas A2训练系列产品/Atlas 800I A2推理产品支持）。

调用示例

仅供参考，具体编译和执行过程请参考undefined。