aclnnTransQuantParam

产品支持情况

功能说明

将输入scale数据从float类型转换为硬件需要的uint64_t类型，并存储到quantParam中。

函数原型

aclnnStatus aclnnTransQuantParam(const float *scaleArray, uint64_t scaleSize, const float *offsetArray, uint64_t offsetSize, uint64_t **quantParam, uint64_t *quantParamSize)

aclnnTransQuantParam

• 参数说明：

  • scaleArray(float*, 计算输入)：指向存储scale数据的内存，用户需要保证scale数据中不存在nan和inf。
  • scaleSize(uint64_t, 计算输入)：scale数据的数量，用户需要自行保证scaleSize与scaleArray包含的元素个数相同。
  • offsetArray(float*, 计算输入)：指向存储offset数据的内存，用户需要保证offset数据中不存在nan和inf。
  • offsetSize(uint64_t, 计算输入)：offset数据的数量，用户需要自行保证offsetSize与offsetArray包含的元素个数相同。
  • quantParam(uint64**, 计算输出)：指向存储转换得到的quantParam数据的内存的地址。
  • quantParamSize(uint64_t*, 计算输出)：存储quantParam数据的数量。

• 返回值：

  aclnnStatus：返回状态码，具体参见undefined。

约束说明

无。

调用示例

示例代码如下，仅供参考，具体编译和执行过程请参考undefined。