在DataCopy(CO1->GM,参考功能说明)的流程中,会涉及到quant量化流程,该接口用于设置量化流程中deq scalar(量化参数)。
__aicore__ inline void SetFixpipePreQuantFlag(uint64_t config);
参数名称 |
输入/输出 |
含义 |
---|---|---|
config |
输入 |
deq scalar,类型为uint64_t,是量化过程中会使用到的量化参数。 |
Atlas A2训练系列产品/Atlas 800I A2推理产品
无
uint64_t deqScalar = 11; SetFixpipePreQuantFlag(deqScalar);