aclnnTransQuantParam

产品支持情况

[object Object]undefined

功能说明

• 接口功能：将输入scale数据从FLOAT32类型转换为硬件需要的UINT64类型，并存储到quantParam中。
• 计算公式：

  1. [object Object]为64位格式，初始为0。

  2. [object Object]按bit位取高19位截断，存储于[object Object]的bit位32位处，并将46位修改为1。

     $$out = out\ |\ (scale\ \&\ 0xFFFFE000)\ |\ (1\ll46)$$

  3. 根据[object Object]取值进行后续计算：

     • 若[object Object]不存在，不再进行后续计算。
     • 若[object Object]存在：

       1. 将[object Object]值处理为int，范围为[-256, 255]。

          $$offset = Max(Min(INT(Round(offset)),255),-256)$$

       2. 再将[object Object]按bit位保留9位并存储于out的37到45位。

          $$out = (out\ \&\ 0x4000FFFFFFFF)\ |\ ((offset\ \&\ 0x1FF)\ll37)$$

函数原型

aclnnTransQuantParam

• 参数说明：

  [object Object]

• 返回值：

  aclnnStatus：返回状态码，具体参见。

  接口完成入参校验，出现以下场景时报错：

  [object Object]

约束说明

• 确定性计算：
  • aclnnTransQuantParam默认确定性实现。

调用示例

示例代码如下，仅供参考，具体编译和执行过程请参考。