aclnnAscendQuantV3

产品支持情况

[object Object]undefined

功能说明

• 接口功能：对输入x进行量化操作，支持设置axis以指定scale和offset对应的轴，scale和offset的shape需要满足和axis指定x的轴相等或1。axis当前支持设置最后两个维度。
• 计算公式：

  • sqrtMode为false时，计算公式为：

    $$y = round((x * scale) + offset)$$

  • sqrtMode为true时，计算公式为：

    $$y = round((x * scale * scale) + offset)$$

函数原型

每个算子分为，必须先调用“aclnnAscendQuantV3GetWorkspaceSize”接口获取计算所需workspace大小以及包含了算子计算流程的执行器，再调用“aclnnAscendQuantV3”接口执行计算。

aclnnAscendQuantV3GetWorkspaceSize

• 参数说明：

  [object Object]

  • [object Object]Atlas A2 训练系列产品/Atlas A2 推理系列产品[object Object]、[object Object]Atlas A3 训练系列产品/Atlas A3 推理系列产品[object Object]：

    • 参数[object Object]、[object Object]、[object Object]的数据格式为NZ时，数据类型仅支持FLOAT32。
    • 出参[object Object]的数据类型仅支持INT8，INT32，INT4。当数据格式为NZ时，数据类型支持INT32。
    • 入参[object Object]：支持取值round，ceil，trunc，floor。当输入[object Object]的数据格式为NZ时，支持取值round。
    • 入参[object Object]支持取值2，3，29，分别表示INT8、INT32、INT4。当输入[object Object]的数据格式为NZ时，支持取值3，表示INT32。
    • 入参[object Object]支持指定x的最后两个维度（假设输入x维度是xDimNum，axis取值范围是[-2，-1]或[xDimNum-2，xDimNum-1]）。

  • [object Object]Atlas 推理系列产品[object Object]：

    • 入参[object Object]、[object Object]、[object Object]的数据类型不支持BFLOAT16，数据格式不支持NZ。
    • 出参[object Object]数据类型仅支持INT8，数据格式不支持NZ。
    • 入参[object Object]：支持取值round，ceil，trunc，floor。
    • 入参[object Object]仅支持取值2，表示INT8。
    • 入参[object Object]只支持指定x的最后一个维度（假设输入x维度是xDimNum，axis取值是-1或xDimNum-1）。

• 返回值：

  aclnnStatus：返回状态码，具体参见。

  第一段接口完成入参校验，出现以下场景时报错：

  [object Object]

aclnnAscendQuantV3

• 参数说明：

  [object Object]

• 返回值：

  aclnnStatus：返回状态码，具体参见。

约束说明

• 确定性计算：
  • aclnnAscendQuantV3默认确定性实现。

调用示例

示例代码如下，仅供参考，具体编译和执行过程请参考。