MindIE1.0.0在Atlas 300I Duo运行Qwen2-VL推理提示某些算子不支持,需要编译消耗大量内存
收藏回复举报
MindIE1.0.0在Atlas 300I Duo运行Qwen2-VL推理提示某些算子不支持,需要编译消耗大量内存
t('forum.solved') 已解决
发表于2025-01-16 11:32:42
0 查看

【系统信息】Atlas 300I Duo Ascend HDK24.1.RC3 MindIE1.0.0官方镜像20250115版本

【运行模型】Qwen2-VL-2B-Instruct

【运行问题】提示信息模型算子不支持,需要编译,编译后能成功运行。

【解决需求】能否直接编译集成,不需要二次编译

【提示信息】INFO] npu_compile.py:20 - 310P,some op does not support

cke_4018.png

运行结果

cke_21051.png

【Deug日志链接】

链接: https://pan.baidu.com/s/1ov3Ef-Ngxo-vsAwCF30deA?pwd=69sq 提取码: 69sq 复制这段内容后打开百度网盘手机App,操作更方便哦  

--来自百度网盘超级会员v5的分享

我要发帖子