华为计算微信公众号
昇腾AI开发者公众号
华为计算微博
华为计算今日头条
在使用amct_pytorch对近似UNet模型进行量化时,得到的fake_quantize_model.onnx模型在图像去噪任务中的表现结果较好,但是将deploy_model.onnx转换成om格式使用Atlas200进行推理时,得到的结果输出图片有多条上下条纹,如何解决?
图1是使用fake_quantize_model.onnx,使用onnxruntime推理得到的模型输出结果
图2是使用deploy_model.om推理得到的结果
我要发帖子
在使用amct_pytorch对近似UNet模型进行量化时,得到的fake_quantize_model.onnx模型在图像去噪任务中的表现结果较好,但是将deploy_model.onnx转换成om格式使用Atlas200进行推理时,得到的结果输出图片有多条上下条纹,如何解决?
图1是使用fake_quantize_model.onnx,使用onnxruntime推理得到的模型输出结果
图2是使用deploy_model.om推理得到的结果