onnx转om报错:Op[name=trans_TransData_323,type=TransData]: generate reshape type mask of input failed.
收藏回复举报
onnx转om报错:Op[name=trans_TransData_323,type=TransData]: generate reshape type mask of input failed.
t('forum.solved') 已解决
发表于2024-09-26 15:55:37
0 查看

【用户类型】:企业

【昇腾产品型号】:Atlas 200 DK A2

【版本信息】

--操作系统版本:Ubuntu 22.04.5 LTS

--固件驱动版本:/

--CANN版本:CANN 7.0.rc1

--Pytorch版本:1.12.1

--Python版本:Python 3.10.12

在atlas 200 DK A2上转换太慢了,按照(使用WSL安装Linux Ubuntu 22.04)在wsl Linux Ubuntu 22.04子系统上进行转换。

【官方样例or个人代码】

--个人样例链接:https://github.com/vdvchen/SGMNet

【开发内容】:使用SGMNet做一个离线推理样例

【问题描述】:将SGMNet修改了一些源码后导出为onnx,可以正常推理,但是导出为om报错。

使用转换atc命令如下:

atc --model=/home/tcg/VisualHabitFusion/model_with_cast.onnx --framework=5 --output=/home/tcg/VisualHabitFusion/matcher --soc_version=Ascend310B4 --input_shape="x1_in:1,4000,3;x2_in:1,4000,3;desc1_in:1,4000,256;desc2_in:1,4000,256" --log=debug

报错截图如下:

20858dc3dd856cbadd90e6d70227ede.png

在日志中有关  `Op[name=trans_TransData_323,type=TransData]` 的截图如下:

atlasdebuglog.png

详细日志链接:https://github.com/jaziel126/QEM/blob/main/plog-219475_20240925173800407.log

onnx文件链接:https://drive.google.com/file/d/1fajAycYdxLoKR889RlKy8by4E6qW-rSH/view?usp=sharing

【尝试措施】(参考):在onnx转om有其他问题也修改了一下,文档记录如下:https://github.com/jaziel126/QEM/blob/main/onnx%E8%BD%ACom.pdf

我要发帖子