DataCopy(CO1->GM、CO1->A1)过程中进行随路量化时,通过调用该接口设置量化流程中scalar量化参数。
1
__aicore__ inline void SetFixpipePreQuantFlag(uint64_t config)
参数名称
输入/输出
含义
config
输入
deq scalar,类型为uint64_t,是量化过程中会使用到的量化参数。
Atlas A2训练系列产品/Atlas 800I A2推理产品
无
完整示例可参考完整示例。
1 2
uint64_t deqScalar = 11; AscendC::SetFixpipePreQuantFlag(deqScalar);