yolov7P6 E6E的模型转为om模型之后,采用msame推理,提示malloc失败
收藏回复举报
yolov7P6 E6E的模型转为om模型之后,采用msame推理,提示malloc失败
t('forum.solved') 已解决
新人帖
发表于2025-07-15 15:12:30
0 查看

【问题详细描述】

把paddle的YOLOv7P6_E6E_1280模型转为onnx模型,

paddle2onnx --model_dir=./yolov7_paddle_model/             --model_filename=model.pdmodel             --params_filename=model.pdiparams             --save_file=yolov7.onnx             --opset_version=12

然后onnx模型转为om模型,

atc --model=yolov7_new.onnx     --framework=5     --output=yolov7_om     --soc_version=Ascend310P3     --input_shape="scale_factor:1,2;image:1,3,1280,1280"  --log=info

注:在之前用atc转换过程中,总是在后端编译的时候会出现TVM EB3000的错误, 经分析是因为算子NonMaxSuppression导致,通过脚本修改模型中的max_output_boxes_per_class常量,从4096改为1024,模型可以转换成功。

image.png

然后用msame推理,发现报错,不是很清楚分配buffer的失败为什么么require size是0,烦请大佬给一下分析意见

cke_76766.png

【问题相关文件】:(提供项目代码,模型,详细日志等定位问题所需的文件,附件或者网盘的形式上传)

通过网盘分享的文件:YOLOv7P6_E6E_1280.zip 

链接: https://pan.baidu.com/s/1W__M2kUhHMtnAj9NjI4BLw 提取码: vpqs

【昇腾产品型号】:

【版本信息】:

- CANN版本:8.1.RC1

- Python版本:python 3.11

- 系统版本:麒麟V10

【用户类型】:个人开发

【开发需求】

- 功能需求(必填):用华为Ascend NPU +yolov7 进行推理验证

【应用目的】: 个人爱好

【硬件信息补充】

cke_158320.png

本帖最后由 匿名用户2025/07/15 17:30:01 编辑

我要发帖子