动态量化支持的类型。
1 2 3 4 5 | enum atb::infer::DynamicQuantType:int{ DYNAMIC_QUANT_UNDEFINED = 0, DYNAMIC_QUANT_SYMMETRIC, DYNAMIC_QUANT_ASYMMETRIC }; |
成员名称 |
描述 |
|---|---|
DYNAMIC_QUANT_UNDEFINED |
非动态量化。 |
DYNAMIC_QUANT_SYMMETRIC |
对称动态量化。 |
DYNAMIC_QUANT_ASYMMETRIC |
非对称动态量化，暂不支持。 |