背景概述以 Qwen2-72B 为例， Atlas 300I Duo 推理卡单设备显存通常为 45GB。为了在单机多卡环境下运行此类大模型，通常尝试通过代码实现模型拆分或多卡并行计算。而在实际部署过程中，发现直接复用适用于训练卡的多卡并行代码时，在 Atlas 300I Duo 推理卡上会出现任务报错退出、sdma 错误甚至掉卡现象。问题现象在使用 PyTorch 或 vLLM 框架运行 Qwen2-72B 等大模型时，若代码中包含跨设备的数据拷贝操作，推理任务会异常终止。具体表现如下： ●报错特征：日志中首先出现 sdma error，随后伴随作业失败。 ●对比差异：相同的模型代码和模型权重在支持跨卡拷贝的训练卡上运行正常，但在 Atlas 300I Duo 推理卡上失败。原因分析 1、检查plog发现首报错为sdmaerror，并且未发现其他报错； 2、检查节点带内日志，发现报错时间点device日志内\message\dev-os-0\messages.0上报了P2P跨卡拷贝（从device1到device4）的记录，并随即报出了sdma的报错； 3、查PTA官网文档可确认当前推理卡不支持跨卡拷贝； 4、发现当前跑的模型体积较大一个device无法放下，希望尝试拆分模型多卡计算，当前300I duo推理卡无法支持，需要改用支持跨卡拷贝的其他产品或者改用单device可以放下的模型，或者考虑使用mindie推理框架（mindie有针对推理卡多卡并行推理的实现）。问题根因 300I duo卡不支持跨device的拷贝，模型代码调用了跨卡拷贝动作导致报错。解决措施更换支持跨卡拷贝的产品或者更换单device可执行的模型，或者考虑使用mindie推理框架（mindie有针对推理卡多卡并行推理的实现）。