大侠们好!
我有一台服务器配置了两块 300I Duo 推理卡。我今天尝试使用 MindIE1.0.0(mindieservice_daemon)运行 Qwen3-32B 失败,错误信息如下:
LLMInferEngine failed to init LLMInferModels
Killed
请教一下:
- MindIE1.0.0 是否不支持 Qwen3?
- 有什么办法能使用300I Duo推理卡(两块)部署Qwen3大模型服务吗( vLLM Ascend当前好像还不支持300I Duo推理卡)?
谢谢!
大侠们好!
我有一台服务器配置了两块 300I Duo 推理卡。我今天尝试使用 MindIE1.0.0(mindieservice_daemon)运行 Qwen3-32B 失败,错误信息如下:
请教一下:
谢谢!