归一化配置说明
归一化是一种将数据缩放到特定范围内的处理方式,有助于后续的数据处理与分析。AIPP支持的归一化功能,通过“减均值”和“乘系数”两步操作实现。这种处理方式不仅适用于常规的归一化需求,还能灵活支持多种数据格式之间的转换,提升数据处理的效率和兼容性。
比如在由uint8转为fp16时,其转换可以视作如下公式。其中,mean_chn_i表示每个通道的均值,min_chn_i表示每个通道的最小值,var_reci_chn_i表示每个通道方差的倒数,各通道的这三个值都是需要进行配置的参数。
pixel_out_chx(i)=[pixel_in_chx(i)-mean_chn_i-min_chn_i]*var_reci_chn_i
父主题: AIPP使能