300IPro 部署deepseek 7b蒸馏
收藏回复举报
300IPro 部署deepseek 7b蒸馏
t('forum.solved') 已解决
发表于2025-02-21 17:37:47
0 查看

我使用Atlas 300I Pro 部署

Deepseek_Qwen_distill_R1_7B


操作系统 openeuler 22.03LTS SP3

显卡驱动版本:Ascend-hdk-310p-npu-driver_24.1.rc3_linux-aarch64.run

固件版本:Ascend-hdk-310p-npu-firmware_7.5.0.1.129.run

拉取的推理镜像 mindie:1.0.0-300I-Duo-py311-openeuler24.03-lts 下载


报错


set_device()报错


我要发帖子