aclnnFakeQuantPerTensorAffineCachemask

产品支持情况

[object Object]undefined

功能说明

• 接口功能：
  • fake_quant_enabled >= 1: 对于输入数据self，使用scale和zero_point对输入self进行伪量化处理，并根据quant_min和quant_max对伪量化输出进行值域更新，最终返回结果out及对应位置掩码mask。
  • fake_quant_enabled < 1: 返回结果out为self.clone()对象，掩码mask为全True。
• 计算公式：在fake_quant_enabled >= 1的情况下，根据算子功能先计算临时变量qval，再计算得出out和mask。$$qval = Round(std::nearby\_int(self / scale) + zero\_point)$$ $$out = (Min(quant\_max, Max(quant\_min, qval)) - zero\_point) * scale$$ $$mask = (qval >= quant\_min) \& (qval <= quant\_max)$$

函数原型

每个算子分为，必须先调用“aclnnFakeQuantPerTensorAffineCachemaskGetWorkspaceSize”接口获取入参并根据流程计算所需workspace大小，再调用“aclnnFakeQuantPerTensorAffineCachemask”接口执行计算。

aclnnFakeQuantPerTensorAffineCachemaskGetWorkspaceSize

• 参数说明：

  [object Object]

• 返回值：

  aclnnStatus：返回状态码，具体参见。

  第一段接口完成入参校验，出现以下场景时报错：

  [object Object]

aclnnFakeQuantPerTensorAffineCachemask

• 参数说明：

  [object Object]

• 返回值：

  aclnnStatus：返回状态码，具体参见。

约束说明

• 确定性计算：
  • aclnnFakeQuantPerTensorAffineCachemask默认确定性实现。

调用示例

示例代码如下，仅供参考，具体编译和执行过程请参考。