mindie-server如何适配Qwen2.5-vl
收藏回复举报
mindie-server如何适配Qwen2.5-vl
t('forum.solved') 已解决
发表于2025-02-14 10:32:12
0 查看

目前官方只适配到qwen2-vl

新出的qwen2.5-vl应该是可以快速适配的,应该如何调整或者说官方大概什么时候可以适配上。

我这边用mindie-server运行qwen2-vl启动测试正常

运行qwen2.5-vl会报错:LLMInferEngine failed to init LLMInferModels

当前使用的版本是1.0.T71-800I-A2-py311-ubuntu22.04-arm64

2.0的版本也下了,但是也没看到2.5-vl的测试包

我要发帖子