背景概述在使用 vLLM-Ascend 进行大模型推理时，开发者可能会遇到因设备 ID 传递方式不匹配导致的 Invalid device id 报错。特别是在多卡并行推理场景下，若未正确区分物理设备 ID 与逻辑设备 ID，容易触发底层算子校验失败。问题信息 ●机型：Atlas 900 A2 Pod ●CANN 版本：8.1.RC1 ●HDK 版本：24.1.RC1 问题现象在单机多卡环境下，结合 Ray 框架使用 vLLM-Ascend 进行推理时，出现部分 GPU/NPU 卡无法拉起的情况。具体表现为：除了第 0 号卡正常启动外，其余 7 张卡在初始化推理引擎时均抛出 invalid device id 异常，导致推理服务启动失败。排查过程 1. 环境变量与环境一致性检查首先排查运行环境差异。在本地开发环境中该场景可正常运行，而在云端集群环境中复现该问题。通过对比两边的环境变量，确认与 Device ID 相关的环境变量配置与启动脚本中设置的一致，未发现其他可疑的环境变量干扰。 2. 隔离 Ray 依赖验证为了排除 Ray 分布式调度带来的干扰，参考社区相似案例，尝试禁用 Ray 进行单机多卡推理测试。结果显示，即使不启用 Ray，问题依然复现。这表明问题根源在于 vLLM-Ascend 框架本身或其与底层 NPU 驱动交互的逻辑，而非分布式调度组件。 3. 深入日志分析检查启动脚本，发现原有的异常捕获代码掩盖了具体的框架报错信息。注释掉以下代码块后重新拉起服务，获取了详细的堆栈跟踪信息：# 原代码 except Exception as e: print(f"进程 {pid} 异常: {e}") return [] 重新运行后，日志明确指向 torch_npu 中的 get_device_name 函数调用失败，具体报错如下：[ERROR] 2025-10-24-10:41:37 (PID:20033, Device:0, RankID:-1) ERR00003 PTA invalid value concurrent.futures.process._RemoteTraceback: """ Traceback (most recent call last): File "/usr/local/python3.10.16/lib/python3.10/concurrent/futures/process.py", line 246, in _process_worker r = call_item.fn(*call_item.args, **call_item.kwargs) File "/home/ma-user/modelarts/user-job-dir/MindSpeed-LLM/data_selection_by_entropy_test.py", line 200, in worker_process llm = LLM( ... File "/usr/local/python3.10.16/lib/python3.10/site-packages/vllm-ascend-0.7.3rc2/vllm_ascend/platform.py", line 91, in get_device_name return torch.npu.get_device_name(physical_device_id) File "/usr/local/python3.10.16/lib/python3.10/site-packages/torch_npu/npu/utils.py", line 94, in get_device_name raise AssertionError("Invalid device id" + pta_error(ErrCode.VALUE)) AssertionError: Invalid device id """ 根因分析通过深入分析报错堆栈，定位到错误发生在 vllm_ascend/platform.py 调用 torch.npu.get_device_name(physical_device_id) 时。查看 torch_npu 内部实现逻辑：def get_device_name(device_name=None): device_id = _get_device_index(device_name, optional=True) # 校验逻辑：device_id 必须在 [0, device_count) 范围内 if device_id < 0 or device_id >= device_count(): raise AssertionError("Invalid device id" + pta_error(ErrCode.VALUE)) return torch_npu._C._npu_getDeviceName() 核心矛盾点： torch_npu 对传入的 device_id 进行了严格校验，要求其为有效的逻辑设备 ID（Logical Device ID），且不能大于当前可见的设备总数。然而，当前使用的 vllm-ascend 版本（0.7.3.rc2）在调用该接口时，错误地传入了物理设备 ID（Physical Device ID）。在 A2 Pod 等集群环境中，物理 ID 与逻辑 ID 可能存在映射差异或范围不同。当传入的物理 ID 超出当前进程可见的逻辑设备范围时，即触发 Invalid device id 断言错误。经查证，这是 vllm-ascend 0.7.3 版本的一个已知问题。在该版本中，平台层未正确将物理 ID 转换为逻辑 ID 即传递给底层驱动。后续版本已修复此逻辑，改为传入正确的逻辑 Device ID。解决措施针对此问题，建议采取以下升级措施： 1.升级 vLLM-Ascend 版本：将vllm-ascend升级至0.7.3 以上版本（如 0.7.4 或更新版本）。新版本已修正 Device ID 传递逻辑，确保传入的是逻辑设备 ID，从而避免底层校验失败。 2.验证环境配套：升级后，请确保 CANN 和 HDK 版本与新的 vLLM-Ascend 版本保持兼容配套，建议参考官方发布的最新环境配套文档进行验证。通过版本升级，即可解决因 Device ID 类型不匹配导致的推理启动失败问题。