扩展更多特性
- 单算子模式的量化感知训练
- 量化数据均衡预处理
在一些数据分布不均匀的场景，由于离群值的影响，对数据进行per-tensor量化得到的结果误差较大，而per-channel量化可以获得更低的误差。但由于当前硬件不支持数据per-channel量化，仅支持权重per-channel量化；在该背景下AMCT设计出一套方法，本节将给出详细介绍。 - 逐层蒸馏
本节详细介绍逐层蒸馏支持的层，接口调用流程和示例。 - KV Cache量化
本节介绍什么是KV Cache、为什么要进行KV Cache量化，量化支持的层，并给出了KV Cache量化调用流程。
父主题： AMCT（PyTorch）