DeepSeek-R1-Distill-Qwen-1.5B在Atlas 300I Duo上推理报错
收藏回复举报
DeepSeek-R1-Distill-Qwen-1.5B在Atlas 300I Duo上推理报错
t('forum.solved') 已解决
发表于2025-04-02 09:55:30
0 查看

在Atlas800-3000服务器上使用Atlas 300I Duo卡进行DeepSeek推理报错

单芯片可以正常拉起mindie服务

使用单卡双芯片报如下错误

cke_1455.png

cke_1957.png

按提示配置环境变量,然后查看日志

cke_6475.png

grep -ri 'error' ~/atb

atb日志中报AllGatherHcclRunner:0 HcclCommInitRootInfo fail, error:2, rank:1, rankSize:2错误

请问这种怎么解决

cke_22094.png

我要发帖子