DataCopy(CO1->GM、CO1->A1)过程中进行随路量化时,通过调用该接口设置量化流程中scalar量化参数。
1
__aicore__ inline void SetFixpipePreQuantFlag(uint64_t config)
参数名称
输入/输出
含义
config
输入
量化过程中使用到的scalar量化参数,类型为uint64_t。
Atlas A2 训练系列产品/Atlas 800I A2 推理产品/A200I A2 Box 异构组件
Atlas 200I/500 A2 推理产品
无
完整示例可参考完整示例。
1 2
uint64_t deqScalar = 11; AscendC::SetFixpipePreQuantFlag(deqScalar);