两台Atlas800I A2 64G服务器直连进行DeepSeek-R1_w8a8推理测试,启动服务报错
收藏回复举报
两台Atlas800I A2 64G服务器直连进行DeepSeek-R1_w8a8推理测试,启动服务报错
t('forum.solved') 已解决
发表于2025-06-25 11:40:28
0 查看

参照这篇文档进行双机直连搭建:

DeepSeek-R1-模型库-ModelZoo-昇腾社区

基础环境搭建完成后,启动推理服务报错,报错内容如下,提示NPU内存不足:

cke_3987.png

附件为配置文件以及服务运行日志。

我要发帖子