本地部署和deepseek-R1-70B模型
收藏回复举报
本地部署和deepseek-R1-70B模型
t('forum.solved') 已解决
发表于2025-06-25 15:11:01
0 查看

硬件(2×Kunpeng 920 CPU + 8张Atlas 300I DUO 96GB显存 + 512GB DDR4内存,硬盘2块1.96T的固态)本地部署和deepseek-r1-70B,用的2.0.RC2-300I-Duo-py311-openeuler24.03-lts镜像,模型的路径data/DeepSeek70B/deepseek-ai/DeepSeek-R1-Distill-Llama-70B是这个。

提示出错,如何解决

[root@localhost /]# cd /usr/local/Ascend/mindie/latest/mindie-service/bin

[root@localhost bin]#

./mindieservice_daemon

Get realpath parsing failed.

Failed to check model weight path.

Killed

[root@localhost bin]#

我要发帖子