AIPP 的“乘系数” 操作能否实现输入int8到float16的转换
收藏回复举报
AIPP 的“乘系数” 操作能否实现输入int8到float16的转换
t('forum.solved') 已解决
发表于2024-08-26 17:05:52
0 查看

我的开发环境:

true

问题背景

推理设备接收从其它设备传来的int8图像数据进行推理,当前我们使用的yolov5s模型需要的输入为float16, 所以需要手动将int8数据转换为float,然后调用华为官方提供的aclFloatToFloat16将数据转换为float16. 这部分相当耗时,严重拉低了推理程序的运行效率,需要进行优化。

我的问题

aipp的减均值、乘系数设置(pixel_out_chx(i) = [pixel_in_chx(i) – mean_chn_i – min_chn_i] * var_reci_chn_i)能否实现int8到float16的转换,替代上文中我的手动转换步骤。即经过aipp操作后模型所接收的输入为int8,模型内部实现int8到float16的快速转换,同时不损失太多精度。

如果可以,请教一下对应的配置文件该如何编写,均值、最小值、方差的设置要遵循什么原则?

我要发帖子