采用llamafactory微调后的模型,在MindIE中起不来
收藏回复举报
采用llamafactory微调后的模型,在MindIE中起不来
t('forum.solved') 已解决
发表于2025-03-17 09:00:30
0 查看

原始模型:DeepSeek-R1-Distill-Qwen-7B

微调工具:llamafactory

微调后模型可以使用LmDeploy部署拉起来

但是使用MindIE不行。

经过研究发现,llamafactory微调后的模型默认是 transformers-=4.49,但是MindIE最高支持MindIE4.47,导致无法运行,这个官方是否可以更新?

我要发帖子