MindIE1.0.0升级transformers组件以支持Qwen3问题
收藏回复举报
MindIE1.0.0升级transformers组件以支持Qwen3问题
t('forum.solved') 已解决
发表于2025-05-07 12:59:29
0 查看

请教一下,如何升级 MindIE1.0.0 镜像中的 transformers 组件(至4.51.0以上版本),以支持 Qwen3 推理服务。

应用背景是鲲鹏CPU服务器,希望使用2块300I Duo卡部署Qwen3推理服务,当前使用MindIE1.0.0镜像发生以下错误:

LLMInferEngine failed to init LLMInferModels

Killed

查询各种信息后感觉是transformers版本问题。

还望指点!谢谢!

我要发帖子