硬件:4张300I DUO、kunpeng 920 CPU
软件:Ubuntu 22.04、docker 28.1.1、使用5月8日新发布的2.0.RC1-300I-Duo-py311-openeuler24.03-lts镜像
问题:部署运行Qwen2.5-vl-32b模型时报错,报错截图:

后发现该镜像中的transformer版本为4.44.0,将其升级至4.49.0后再次运行,仍然报错,截图:


但是明明官方说明是支持Qwen2.5-VL 72B的,虽然我用的是32B参数的,但这个应该不影响吧..

请大佬帮忙指点一下。
硬件:4张300I DUO、kunpeng 920 CPU
软件:Ubuntu 22.04、docker 28.1.1、使用5月8日新发布的2.0.RC1-300I-Duo-py311-openeuler24.03-lts镜像
问题:部署运行Qwen2.5-vl-32b模型时报错,报错截图:
后发现该镜像中的transformer版本为4.44.0,将其升级至4.49.0后再次运行,仍然报错,截图:
但是明明官方说明是支持Qwen2.5-VL 72B的,虽然我用的是32B参数的,但这个应该不影响吧..
请大佬帮忙指点一下。