300I Duo 运行 Qwen3
收藏回复举报
300I Duo 运行 Qwen3
t('forum.solved') 已解决
新人帖
发表于2025-05-01 15:46:15
0 查看

大侠们好!

我有一台服务器配置了两块 300I Duo 推理卡。我今天尝试使用 MindIE1.0.0(mindieservice_daemon)运行 Qwen3-32B 失败,错误信息如下:

LLMInferEngine failed to init LLMInferModels

Killed

请教一下:

  1. MindIE1.0.0 是否不支持 Qwen3?
  2. 有什么办法能使用300I Duo推理卡(两块)部署Qwen3大模型服务吗( vLLM Ascend当前好像还不支持300I Duo推理卡)?

谢谢!

我要发帖子