我的开发环境:

问题背景
推理设备接收从其它设备传来的int8图像数据进行推理,当前我们使用的yolov5s模型需要的输入为float16, 所以需要手动将int8数据转换为float,然后调用华为官方提供的aclFloatToFloat16将数据转换为float16. 这部分相当耗时,严重拉低了推理程序的运行效率,需要进行优化。
我的问题
aipp的减均值、乘系数设置(pixel_out_chx(i) = [pixel_in_chx(i) – mean_chn_i – min_chn_i] * var_reci_chn_i)能否实现int8到float16的转换,替代上文中我的手动转换步骤。即经过aipp操作后模型所接收的输入为int8,模型内部实现int8到float16的快速转换,同时不损失太多精度。
如果可以,请教一下对应的配置文件该如何编写,均值、最小值、方差的设置要遵循什么原则?
我的开发环境:
问题背景
推理设备接收从其它设备传来的int8图像数据进行推理,当前我们使用的yolov5s模型需要的输入为float16, 所以需要手动将int8数据转换为float,然后调用华为官方提供的aclFloatToFloat16将数据转换为float16. 这部分相当耗时,严重拉低了推理程序的运行效率,需要进行优化。
我的问题
aipp的减均值、乘系数设置(pixel_out_chx(i) = [pixel_in_chx(i) – mean_chn_i – min_chn_i] * var_reci_chn_i)能否实现int8到float16的转换,替代上文中我的手动转换步骤。即经过aipp操作后模型所接收的输入为int8,模型内部实现int8到float16的快速转换,同时不损失太多精度。
如果可以,请教一下对应的配置文件该如何编写,均值、最小值、方差的设置要遵循什么原则?