om模型和onnx模型推理结果差异很大
收藏回复举报
om模型和onnx模型推理结果差异很大
t('forum.solved') 已解决
发表于2024-04-07 11:09:46
0 查看

pt模型推理结果:

cke_722.png

onnx模型推理结果:

atlas 200I DK A2上推理的结果

cke_50293.png

PC端推理的结果

cke_3832.png

om模型推理结果:

cke_6956.png

并且,在om模型推理时,对输入图片在cwh维度做transpose操作,包括(cwh)、(whc)、(hwc),om模型输出的结果都是一样的。

onnx转om模型命令为:

atc --model=./weight_export/onnx_siamrpn_400/rpn_head127_400.onnx --output=./weight_export/om_siamrpn_400/rpn_head127_400 \
             --framework=5 --input_format=NCHW --soc_version=Ascend310B1 --log=error \
             --input_shape="input1:1,256,6,6;input2:1,256,40,40"\
             --enable_small_channel=1 \
             --op_select_implmode=high_performance

我要发帖子