ATC 工具对检测模型做 INT8 量化,推理精度严重下滑如何解决
收藏回复举报
ATC 工具对检测模型做 INT8 量化,推理精度严重下滑如何解决
t('forum.solved') 已解决
发表于2026-05-30 20:28:45
0 查看
大家好,我使用 ATC 工具将训练好的目标检测模型转为 INT8 量化 OM 模型,部署到昇腾设备后,检测框偏移、漏检问题十分明显,相比原 FP16 模型精度差距很大。我按照官方文档执行量化命令,也尝试修改量化阈值、关闭部分算子量化,优化效果并不理想。目前没有合适的校准数据集,只能使用默认量化模式。项目对检测精度有明确要求,不能直接放弃量化,而不量化又无法达到预期推理速度。想问问社区各位同行,缺少校准数据的情况下,有哪些量化调优技巧,以及算子精度的单独配置方案?

我要发帖子