---
title: IFMR数据量化算法
description: "IFMR（Input Feature Map Reconstruction）算法在某个数据分布下，通过搜索的方式确定最佳量化方式。该算法用于训练后量化场景，量化原理图如下所示："
url: https://www.hiascend.com/document/detail/zh/canncommercial/latest/devaids/amct/atlasamct_16_0389.html
sourcePath: /source/zh/canncommercial/900/devaids/amct/atlasamct_16_0389.html
indexId: 4f75f42340d6cb591b0cb896c92731982384c191b6a4bd82b49a4e8099e6135d65
---
# IFMR数据量化算法

IFMR（Input Feature Map Reconstruction）算法在某个数据分布下，通过搜索的方式确定最佳量化方式。该算法用于训练后量化场景，量化原理图如下所示：

图1 IFMR数据量化算法

上图中序号[1,3]代表[clip_min_start, clip_min_end]、2代表clip_min、 [4,6]代表[clip_max_start, clip_max_end]、5代表clip_max。

该算法中量化过程分为两步，如图1所示，第一步，将浮点数截断到[clip_min, clip_max]范围，即图1中的[2,5]点；第二步，将浮点数据量化到int范围。通常情况下，数据分布处于边界附近的数值比较稀疏，均可做截断处理，以提高量化精度。

为获得最佳量化效果，可以不断改变截断范围[clip_min, clip_max]，选择量化效果最好的一组范围作为最终的量化结果。IFMR算法中，clip_min和clip_max用来设置搜索范围和搜索步长，遍历查询得到最优的量化效果。量化配置中FMRQuantize（以PyTorch框架为例，参数解释请参见表1）提供的参数则用来调整截断范围。

- clip_min（即  图1
中的序号2）的遍历取值范围为[clip_min_start, clip_min_end] （即  图1
中的[1,3]），步长为search_step。
- clip_max（即  图1
中的序号5）的遍历取值范围为[clip_max_start, clip_max_end] （即  图1
中的[4,6]），步长为search_step。

在数据降序序列中，根据min_percentile参数获得clip_min_init，从而得到clip_min_start、clip_min_end参数，其中：

- clip_min_start =clip_min_init*search_range_start
- clip_min_end= clip_min_init* search_range_end

在数据升序序列中，根据max_percentile参数获得clip_max_init，从而得到clip_max_start、clip_max_end参数，其中：

- clip_max_start =clip_max_init*search_range_start
- clip_max_end=clip_max_init* search_range_end

通常情况下，搜索范围[clip_min_start, clip_min_end]越大、搜索步长search_step越小，可能获得更高的量化精度，但量化耗时更多。