扩展更多特性
模型适配
自动混合精度搜索
量化数据均衡预处理
在一些数据分布不均匀的场景,由于离群值的影响,对数据进行per-tensor量化得到的结果误差较大,而per-channel量化可以获得更低的误差。但由于当前硬件不支持数据per-channel量化,仅支持权重per-channel量化;在该背景下
AMCT
设计出一套方法,本节将给出详细介绍。
近似校准
父主题:
AMCT工具(TensorFlow)