ONNX可以成功使用ATC转成om文件,但是精度不对。
收藏回复举报
ONNX可以成功使用ATC转成om文件,但是精度不对。
新人帖
发表于2024-05-22 11:32:36
0 查看
我这里有一个onnx模型,使用英伟达TensorRT、寒武纪MagicMind、百度XTCL、直接使用TVM编译成so,这些平台上对应的序列化文件后推理都正确。唯独使用ATC转成om后推理精度有大的偏差,能否帮忙解决这个问题,我可以提供该onnx。

本帖最后由 匿名用户2024/05/22 12:06:59 编辑

我要发帖子