使用atc工具转onnx模型,但是转完的模型输出结果不对,我把可能解决精度问题的atc选项都加上了,比如关闭算子融合、关闭缓存等,精度依然有问题,我把onnx的输出和模型的输出dump比了一下,发现遇到slice算子,余弦值变的很小,我又在atc转换的时候,加上了keepdtype的选项,保证slice用原始精度,结果依然不对,麻烦各位专家,帮忙解决一下该问题。模型和compare的结果在附件中。
atc模型转换完精度不对
已解决
本帖最后由 匿名用户 于 2024/11/27 17:00:42 编辑



