长江计算-10卡300I DUO整机运行deepseek-qwen2.5-VL-32B文本对话的可以正常推理,带上图片推理就会挂掉
收藏回复举报
长江计算-10卡300I DUO整机运行deepseek-qwen2.5-VL-32B文本对话的可以正常推理,带上图片推理就会挂掉
t('forum.solved') 已解决
新人帖
发表于2025-06-02 09:19:22
0 查看

背景:该驱动版本为临时版本,可以支持4+4+1+1组合。华为官网驱动无法运行10卡,驱动版本如下:

名称

版本

npu-driver

25.3.rc1.b001

Mindie

2.0.RC1

firmware

7.7.0.1.231

CANN

8.1.RC1

 

  使用该10卡配置搭配表上,在实验室进一步对其它模型测试验证,用0-7芯跑qwen2.5-VL-32B文本对话的可以正常推理,带上图片推理就会挂掉,具体报错信息见下面截图,烦请帮忙协调资源分析一下原因。

cke_11979.png

cke_14975.png

本帖最后由 匿名用户 于 2025/06/06 17:01:34 编辑

我要发帖子