查找量化场景下的精度损失层
当前仅支持Caffe框架模型,使用精度比对工具查找量化场景下的精度损失层,主要包含以下两步的比对:
- 定位量化阶段的精度问题。
执行非量化原始模型(GPU/CPU) vs 量化原始模型(GPU/CPU)。
- 定位模型转换阶段产生的精度问题,即量化离线模型在NPU上运行时的精度问题。
执行量化原始模型(GPU/CPU) vs 量化离线模型(关闭融合规则)(NPU)。
详细操作请参见《精度比对工具使用指南》中的“GPU/CPU vs Ascend NPU精度比对(Caffe推理)”。
父主题: 使用AMCT工具压缩模型