开发者
资源
[object Object][object Object][object Object]undefined
[object Object]

矩阵计算完成后,对结果进行量化处理,之后将处理结果搬运到GM中。量化模式共分为9种,分别为:

  • NoQuant:不使能量化功能。
  • F322F16:float量化成half。量化结果不支持INF_NAN模式。
  • F322BF16:float量化成bfloat16_t。量化结果不支持INF_NAN模式。
  • DEQF16:int32_t量化成half。量化结果不支持INF_NAN模式。
  • VDEQF16:int32_t量化成half。量化结果不支持INF_NAN模式。
  • QF322B8_PRE:float量化成uint8_t/int8_t。scalar量化。
  • VQF32B8_PRE:float量化成uint8_t/int8_t。矢量量化。
  • REQ8:int32_t量化成uint8_t/int8_t。scalar量化。
  • VREQ8:int32_t量化成uint8_t/int8_t。矢量量化。
[object Object]
  • 常规计算

    [object Object]
  • 同步计算

    [object Object]
[object Object][object Object]undefined
[object Object]

[object Object]

PIPE_MTE1

[object Object]
  • dst、src的起始地址需要32字节对齐。
  • 操作数地址重叠约束请参考
[object Object]
[object Object]