概述

模型量化

提供模型压缩技术，通过降低模型权重和激活值的数值精度，有效减少模型的存储内存占用和计算需求。通常会将高位浮点数转换为低位定点数，从而直接减少模型权重的体积。模型量化工具的输入为能够正常运行的模型和数据，输出为一个可以使用的量化权重和量化因子。

数据落盘（dump）

提供加速库模型推理过程中产生的中间数据的dump能力，落盘的数据用于进行后续的精度比对。

精度比对（compare）

提供一键式精度比对功能，支持快速实现推理场景的整网精度比对。

性能调优

采集和分析运行在昇腾AI处理器上的AI任务各个运行阶段的关键性能指标，用户可根据输出的性能数据，快速定位软、硬件性能瓶颈，提升AI任务性能分析的效率。