300I-DUO加载deepseek-r1-distill-qwen-32b时有报错
收藏回复举报
300I-DUO加载deepseek-r1-distill-qwen-32b时有报错
t('forum.solved') 已解决
新人帖
发表于2025-02-11 14:53:31
0 查看

麻烦各位大佬帮忙看看有没有下面问题的解决办法

使用docker加载镜像 swr.cn-south-1.myhuaweicloud.com/ascendhub/mindie:1.0.0-300I-Duo-py311-openeuler24.03-lts

系统为 ARM64

模型使用的是 deepseek-r1-distill-qwen-32b

环境为4张 300I-DUO 

启动参数:

torchrun --nproc_per_node 4 \
         --master_port 20037 \
         -m examples.run_pa \
         --model_path /home/model/DeepSeek-R1-Distill-Qwen-14B \
         -- input texts '1+1-?'\
         --max_output_length 20

报错信息如下:

cke_533.png

我要发帖子