ATC编译模型成功但是生成出的模型无法运行
收藏回复举报
ATC编译模型成功但是生成出的模型无法运行
t('forum.solved') 已解决
发表于2023-05-23 16:55:50
0 查看

环境

CANN  toolkit 6.3.RC1.alpha002

Atlas 200DK

Ubuntu 18.04

问题描述

使用以下命令转换模型:

atc --model=vits_encoder-flash_attention-one_domain.onnx --framework=5 --input_format=ND --input_shape="inputs:1,128;inputs_length:1" --soc_version="Ascend310" --output=vits_encoder-flash_attention

输出显示转换成功:

cke_17094.png(所有输出保存在atc_log.txt附件里。)

上面转换命令中设置了--output=vits_encoder-flash_attention,但是输出的模型文件名后面却多了一个linux_aarch64,转换其他的模型没有遇见这个情况。

cke_29813.png而且使用msame推理这个模型会报错:

./msame --model=/home/HwHiAiUser/models/vits_encoder-flash_attention_linux_aarch64.om --output=./

cke_49363.png(所有输出保存在附件msame_log.txt里)

使用AscendCL中的aclmdlQuerySize接口输出的modelMemorySize是0。

我要发帖子