[求助]Atlas 300Ipro/Duo怎么部署qwen3-vl?目前vllm和mindie好像都暂时不支持,还有别的办法吗?
收藏回复举报
[求助]Atlas 300Ipro/Duo怎么部署qwen3-vl?目前vllm和mindie好像都暂时不支持,还有别的办法吗?
t('forum.solved') 已解决
发表于2025-11-25 11:11:26
0 查看

300Ipro/Duo目前最稳定的vllm版本好像是0.10.0,这个版本只支持到qwen2.5vl或者qwen3,还不支持qwen3-vl。

0.11.0版本的vllm支持qwen3-vl,但是又不支持300Ipro的卡了(310p)

可以把qwen3-vl的模型转换到mm格式再部署吗?

本帖最后由 匿名用户2025/11/25 11:19:31 编辑

我要发帖子