ATC量化精度下降
收藏回复举报
ATC量化精度下降
t('forum.solved') 已解决
新人帖
发表于2024-10-10 09:57:12
0 查看
采用命令atc  --dump_data=3 --input_shape="input:1,3,127,127" --input_type="input:FP32" --log_level=0 --batch_num=1 --input_format=NCHW --soc_version=Hi3516DV500 --framework=5  --output="/home/king/modelzoo/nanotrack_backbone_sim22/Hi3516DV500/backbone_sim22" --save_original_model=true   --forward_quantization_option=0 --model="/home/king/model/backbone/backbone_sim22.onnx" --image_list="input:/home/king/code/yolo/data/test_tem.bin" 生成的文件夹dump_quant和dump_simulate经msaccucmp.py进行比对后精度下降超过60%,是何原因?

我要发帖子