使用amct_pytorch进行量化感知训练时,fake_quantize_model和deploy_model两者结果不一致的问题
收藏回复举报
使用amct_pytorch进行量化感知训练时,fake_quantize_model和deploy_model两者结果不一致的问题
t('forum.solved') 已解决
新人帖
发表于2023-03-06 14:54:07
0 查看

在使用amct_pytorch对近似UNet模型进行量化时,得到的fake_quantize_model.onnx模型在图像去噪任务中的表现结果较好,但是将deploy_model.onnx转换成om格式使用Atlas200进行推理时,得到的结果输出图片有多条上下条纹,如何解决?

图1是使用fake_quantize_model.onnx,使用onnxruntime推理得到的模型输出结果

cke_2796.png

图2是使用deploy_model.om推理得到的结果

cke_9664.png

我要发帖子