aclnnQuantize

产品支持情况

产品	是否支持
[object Object]Atlas A3 训练系列产品/Atlas A3 推理系列产品[object Object]	√
[object Object]Atlas A2 训练系列产品/Atlas 800I A2 推理产品/A200I A2 Box 异构组件[object Object]	√
[object Object]Atlas 200I/500 A2 推理产品[object Object]	×
[object Object]Atlas 推理系列产品 [object Object]	√
[object Object]Atlas 训练系列产品[object Object]	×

功能说明

• 算子功能：对输入张量进行量化处理。
• 计算公式：$$out=round((x/scales)+zeroPoints)$$

函数原型

每个算子分为undefined，必须先调用“aclnnQuantizeGetWorkspaceSize”接口获取计算所需workspace大小以及包含了算子计算流程的执行器，再调用“aclnnQuantize”接口执行计算。

• aclnnStatus aclnnQuantizeGetWorkspaceSize(const aclTensor* x, const aclTensor* scales, const aclTensor* zeroPoints, aclDataType dtype, int32_t axis, aclTensor* out, uint64_t* workspaceSize, aclOpExecutor** executor)
• aclnnStatus aclnnQuantize(void* workspace, uint64_t workspaceSize, aclOpExecutor* executor, aclrtStream stream)

aclnnQuantizeGetWorkspaceSize

• 参数说明

  • x（aclTensor*, 计算输入）：表示需要进行量化的源数据张量，公式中的x，Device侧的aclTensor，undefined支持ND，支持undefined。维度仅支持1到8维。
    • [object Object]Atlas 推理系列产品[object Object]：数据类型支持FLOAT、FLOAT16。
    • [object Object]Atlas A2 训练系列产品/Atlas 800I A2 推理产品/A200I A2 Box 异构组件[object Object]、[object Object]Atlas A3 训练系列产品/Atlas A3 推理系列产品[object Object]：数据类型支持FLOAT、FLOAT16、BFLOAT16。
  • scales（aclTensor*, 计算输入）：表示量化过程中对x进行scales的张量，公式中的scales，Device侧的aclTensor，维度需要为1维，undefined支持ND，支持undefined，size需要为1或和输入x中axis轴的size相等。
    • [object Object]Atlas 推理系列产品[object Object]：数据类型支持FLOAT、FLOAT16。
    • [object Object]Atlas A2 训练系列产品/Atlas 800I A2 推理产品/A200I A2 Box 异构组件[object Object]、[object Object]Atlas A3 训练系列产品/Atlas A3 推理系列产品[object Object]：数据类型支持FLOAT、FLOAT16、BFLOAT16，当数据类型为BFLOAT16时，x、zeroPoints数据类型均为BFLOAT16。
  • zeroPoints（aclTensor*, 计算输入）：表示量化过程中对x进行offset的张量，公式中的zeroPoints，Device侧的aclTensor，支持传入空指针，维度需要为1维，undefined支持ND，支持undefined，size需要为1或和输入x中axis轴的size相等，并与scales的size相等。
    • [object Object]Atlas 推理系列产品[object Object]：数据类型支持INT32、INT8、UINT8。
    • [object Object]Atlas A2 训练系列产品/Atlas 800I A2 推理产品/A200I A2 Box 异构组件[object Object]、[object Object]Atlas A3 训练系列产品/Atlas A3 推理系列产品[object Object]：数据类型支持INT32、INT8、UINT8、BFLOAT16，当数据类型为BFLOAT16时，x、scales数据类型均为BFLOAT16。
  • dtype（aclDataType，入参）：表示量化输出Tensor的数据类型。
    • [object Object]Atlas 推理系列产品[object Object]、[object Object]Atlas A2 训练系列产品/Atlas 800I A2 推理产品/A200I A2 Box 异构组件[object Object]、[object Object]Atlas A3 训练系列产品/Atlas A3 推理系列产品[object Object]：支持ACL_INT8、ACL_UINT8、ACL_INT32。
  • axis（int32_t，入参）：Host侧的整型，表示需要进行量化的elewise轴，其他的轴做broadcast，当输入的scales和zeroPoints的size均为1时，该参数实际不使用。支持范围为小于输入x的维度数且大于等于x维度数的负值。
  • out（aclTensor*，计算输出）：表示量化输出Tensor，公式中的out，Device侧的aclTensor，其shape需要与self一致，数据类型由入参dtype指定，undefined支持ND，支持undefined。
    • [object Object]Atlas 推理系列产品[object Object]、[object Object]Atlas A2 训练系列产品/Atlas 800I A2 推理产品/A200I A2 Box 异构组件[object Object]、[object Object]Atlas A3 训练系列产品/Atlas A3 推理系列产品[object Object]：数据类型支持INT8、UINT8、INT32。
  • workspaceSize（uint64_t*, 出参）：返回需要在Device侧申请的workspace大小。
  • executor（aclOpExecutor**, 出参）：返回op执行器，包含了算子计算流程。

• 返回值

  aclnnStatus：返回状态码，具体参见undefined。

  [object Object]

aclnnQuantize

• 参数说明

  • workspace（void*, 入参）：在Device侧申请的workspace内存地址。
  • workspaceSize（uint64_t, 入参）：在Device侧申请的workspace大小，由第一段接口aclnnQuantizeGetWorkspaceSize获取。
  • executor（aclOpExecutor*, 入参）：op执行器，包含了算子计算流程。
  • stream（aclrtStream, 入参）：指定执行任务的Stream。

• 返回值

  aclnnStatus：返回状态码，具体参见undefined。

约束说明

无。

调用示例

示例代码如下，仅供参考，具体编译和执行过程请参考undefined。