aclnnTransQuantParam

支持的产品型号

• Atlas A2训练系列产品/Atlas 800I A2推理产品。

接口原型

aclnnStatus aclnnTransQuantParam(const float *scaleArray, uint64_t scaleSize, const float *offsetArray, uint64_t offsetSize, uint64_t **quantParam, uint64_t *quantParamSize)

功能描述

将输入scale数据从float类型转换为硬件需要的uint64_t类型，并存储到quantParam中。

aclnnTransQuantParam

• 参数说明：

  • scaleArray(const float*, 计算输入)：指向存储scale数据的内存，用户需要保证scale数据中不存在nan和inf。
  • scaleSize(uint64_t, 计算输入)：scale数据的数量，用户需要自行保证scaleSize与scaleArray包含的元素个数相同。
  • offsetArray(const float*, 计算输入)：指向存储offset数据的内存，用户需要保证offset数据中不存在nan和inf。
  • offsetSize(uint64_t, 计算输入)：offset数据的数量，用户需要自行保证offsetSize与offsetArray包含的元素个数相同。
  • quantParam(uint64**, 计算输出)：指向存储转换得到的quantParam数据的内存的地址。
  • quantParamSize(uint64_t*, 计算输出)：存储quantParam数据的数量。

• 返回值：

  aclnnStatus：返回状态码，具体参见。

约束与限制

无

调用示例

示例代码如下，仅供参考，具体编译和执行过程请参考。