我在用 opencompass 通过 vllm 加速模型评估时,出现如下错误,安装参考的是 https://ascend.github.io/docs/sources/opencompass/install.html,命令是:python run.py --hf-num-gpus 8 --datasets demo_gsm8k_base_gen demo_math_base_gen --hf-type base --hf-path /data1/base_model/Qwen/Qwen3-8B-Base/ -a vllm,报错如下(这个命令在 x86-nvidia卡机器上执行是正常):
去掉 -a vllm 就可以。vllm是使用 pip install "opencompass[vllm]" 安装的默认版本,如下:

在910B平台,opencompass 可以使用 vllm 加速吗,如果可以,具体应该如何做。
我在用 opencompass 通过 vllm 加速模型评估时,出现如下错误,安装参考的是 https://ascend.github.io/docs/sources/opencompass/install.html,命令是:python run.py --hf-num-gpus 8 --datasets demo_gsm8k_base_gen demo_math_base_gen --hf-type base --hf-path /data1/base_model/Qwen/Qwen3-8B-Base/ -a vllm,报错如下(这个命令在 x86-nvidia卡机器上执行是正常):
去掉 -a vllm 就可以。vllm是使用 pip install "opencompass[vllm]" 安装的默认版本,如下:
在910B平台,opencompass 可以使用 vllm 加速吗,如果可以,具体应该如何做。