小白, 在学习将各种模型迁移到Ascend平台, 在华为云上买的Ascend云服务器来操作
从ResNet50, YoloV3, YoloV4, 都能正常迁移。 到YOLOX模型, 就卡住了, 模型推理结果对不上。
转换命令:
atc --model=yolox_nano.onnx --framework=5 --output=yolox_nano --input_shape="images:1,3,416, 416" --soc_version=Ascend310 --input_format=NCHW
我同时做了onnx和om两个模型的模型output结果的比较, 同样的推理代码, ResNet50, YoloV3, YoloV4,等模型都能对齐(精度差异不大), 但是到YOLOX模型输出结果就完全对不上了, 个人觉得就是YOLOX的模型从onnx转om的过程中出错了
尝试了各种方案:
(1)去掉输入的slice层, 将输入从 3x416x416改为 12x208x208,
(2)atc 模型转换的时候, 加了--precision_mode 并尝试了各种参数, 确实结果有变化, 但是跟onnx的推理结果还是对不齐
请大牛提供一下意见或者建议,还有什么好的方案能够解决这个问题
小白, 在学习将各种模型迁移到Ascend平台, 在华为云上买的Ascend云服务器来操作
从ResNet50, YoloV3, YoloV4, 都能正常迁移。 到YOLOX模型, 就卡住了, 模型推理结果对不上。
转换命令:
atc --model=yolox_nano.onnx --framework=5 --output=yolox_nano --input_shape="images:1,3,416, 416" --soc_version=Ascend310 --input_format=NCHW
我同时做了onnx和om两个模型的模型output结果的比较, 同样的推理代码, ResNet50, YoloV3, YoloV4,等模型都能对齐(精度差异不大), 但是到YOLOX模型输出结果就完全对不上了, 个人觉得就是YOLOX的模型从onnx转om的过程中出错了
尝试了各种方案:
(1)去掉输入的slice层, 将输入从 3x416x416改为 12x208x208,
(2)atc 模型转换的时候, 加了--precision_mode 并尝试了各种参数, 确实结果有变化, 但是跟onnx的推理结果还是对不齐
请大牛提供一下意见或者建议,还有什么好的方案能够解决这个问题