SetQuantScalar

产品支持情况

功能说明

本接口提供对输出矩阵的所有值采用同一系数进行量化或反量化的功能，即整个C矩阵对应一个量化参数，量化参数的shape为[1]。量化、反量化的详细内容请参考量化场景。

Matmul反量化场景：在Matmul计算时，左、右矩阵的输入为int8_t或int4b_t类型，输出为half类型；或者左、右矩阵的输入为int8_t类型，输出为int8_t类型。该场景下，输出C矩阵的数据从CO1搬出到Global Memory时，会执行反量化操作，将最终结果反量化为对应的half或int8_t类型。

Matmul量化场景：在Matmul计算时，左、右矩阵的输入为half或bfloat16_t类型，输出为int8_t类型。该场景下，输出C矩阵的数据从CO1搬出到Global Memory时，会执行量化操作，将最终结果量化为int8_t类型。

函数原型

1

__aicore__ inline void SetQuantScalar(const uint64_t quantScalar)

参数说明

将float数据类型的量化计算参数scale、offset转换为uint64类型的入参的计算公式如下：

1. quantScalar为64位格式，初始为0。
2. scale按bit位取高19位截断，存储于quantScalar的bit位32位处，并将46位修改为1。

   quantScalar = quantScalar∣ (scale & 0xFFFFE000) ∣ (1 << 46)

3. 根据offset取值进行后续计算：
   • 若offset不存在，不再进行后续计算。
   • 若offset存在：
     1. 将offset值处理为int，范围为[-256, 255]。

        offset = Max(Min(INT(Round(offset)), 255), −256)

     2. 再将offset按bit位保留9位并存储于quantScalar的37到45位。

        quantScalar = (quantScalar & 0x4000FFFFFFFF) ∣ ((offset & 0x1FF) << 37)

返回值说明

无

约束说明

需与SetDequantType保持一致。

本接口必须在Iterate或者IterateAll前调用。

调用示例

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12

REGIST_MATMUL_OBJ(&pipe, GetSysWorkSpacePtr(), mm, &tiling);
float tmp = 0.1;  // 输出gm时会乘以0.1
// 将浮点值的量化或反量化系数，转换为uint64_t类型
uint64_t ans = static_cast<uint64_t>(*reinterpret_cast<int32_t*>(&tmp));
mm.SetQuantScalar(ans);
mm.SetTensorA(gm_a);
mm.SetTensorB(gm_b);
if (tiling.isBias) {
    mm.SetBias(biasGlobal);
}
mm.IterateAll(gm_c);
mm.End();