在Matmul计算时支持int8类型输入，half类型输出，该场景下，需要调用反量化接口进行反量化。调用反量化接口后，将数据从L0C搬出到GM时，会执行反量化操作，将最终结果反量化为half类型。本节中的反量化接口提供对输出矩阵的所有值采用同一反量化系数进行反量化的功能。
请在Iterate或者IterateAll之前调用该接口。
__aicore__ inline void SetQuantScalar(uint64_t scalar)
参数名 |
输入/输出 |
描述 |
|---|---|---|
scalar |
输入 |
反量化系数。 |
无
Atlas A2训练系列产品
无