矩阵计算完成后,对结果进行量化处理,之后将处理结果搬运到GM中。量化模式共分为8种,分别为:
- DEQF16:int32_t量化成half。量化结果不支持INF_NAN模式。
- F322BF16:float量化成bfloat16_t。量化结果不支持INF_NAN模式。
- F322F16:float量化成half。量化结果不支持INF_NAN模式。
- QF322B8_PRE:float量化成uint8_t/int8_t。scalar量化。
- REQ8:int32_t量化成uint8_t/int8_t。scalar量化。
- VDEQF16:int32_t量化成half。量化结果不支持INF_NAN模式。
- VQF322B8_PRE:float量化成uint8_t/int8_t。scalar量化。
- VREQ8:int32_t量化成uint8_t/int8_t。矢量量化。
常规搬运
[object Object]同步搬运
[object Object]
无
PIPE_FIX
[object Object]