--- title: 800T A2 集群部署 DeepSeek-V3 服务化报错排查与解决-官方技术文章-昇腾社区 description: 在 800T A2 设备进行大模型部署，尝试启动 DeepSeek-V3 模型。该场景涉及 4 台服务器，在部署过程中，发现集群中仅有一台服务器能正常加载模型并启动服务，其余三台服务器在启动过程中均抛出 `ConnectionRefusedError: [Errno 111] Connection refused` 错误&#x keywords: 集群部署,DeepSeek,服务化报错排查与解决,官方技术文章,昇腾社区,背景概述,问题现象,排查过程 url: https://www.hiascend.com/developer/techArticles/20260717-10 section: (其他) --- # 800T A2 集群部署 DeepSeek-V3 服务化报错排查与解决-官方技术文章-昇腾社区 URL: https://www.hiascend.com/developer/techArticles/20260717-10 描述: 在 800T A2 设备进行大模型部署，尝试启动 DeepSeek-V3 模型。该场景涉及 4 台服务器，在部署过程中，发现集群中仅有一台服务器能正常加载模型并启动服务，其余三台服务器在启动过程中均抛出 `ConnectionRefusedError: [Errno 111] Connection refused` 错误&#x 关键词: 集群部署,DeepSeek,服务化报错排查与解决,官方技术文章,昇腾社区,背景概述,问题现象,排查过程 官方技术文章 [了解详情](https://www.hiascend.com/zh/developer/techArticles) 800T A2 集群部署 DeepSeek-V3 服务化报错排查与解决 800T A2 集群部署 DeepSeek-V3 服务化报错排查与解决 MindIE 发表于: 2026/07/17 110 0 ## 背景概述 在 800T A2 设备进行大模型部署，尝试启动 DeepSeek-V3 模型。该场景涉及 4 台服务器，在部署过程中，发现集群中仅有一台服务器能正常加载模型并启动服务，其余三台服务器在启动过程中均抛出`ConnectionRefusedError: [Errno 111] Connection refused`错误，导致分布式服务无法拉起。 ## 问题现象 在 4 台 800T A2 设备上部署 DeepSeek-V3 模型服务时，出现以下异常： ● 正常节点：1 台服务器模型加载正常，服务启动成功。 ● 异常节点：3 台服务器启动失败，日志报错`ConnectionRefusedError: [Errno 111] Connection refused`。 ## 排查过程 针对上述现象，我们从容器配置、网络通信、权重文件完整性及软件版本兼容性四个维度进行了系统性排查。 ### 1. 容器启动配置检查 首先检查 Docker 启动命令，确认设备挂载、网络模式及资源限制配置无误。启动参数包含所有 8 张 NPU 设备挂载、共享内存设置及必要的 Ascend 驱动路径映射。 bash 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 container_name='deepseek_v3'    # 参数1：容器名称 image_id='2acbb0b1003d'          # 参数2：镜像ID model_path='/data/Deepseek-V3-bf16/'        #参数3：权重路径 docker run -itd --privileged --name=$container_name --net=host --shm-size=500g \ --device=/dev/davinci0 \ --device=/dev/davinci1 \ --device=/dev/davinci2 \ --device=/dev/davinci3 \ --device=/dev/davinci4 \ --device=/dev/davinci5 \ --device=/dev/davinci6 \ --device=/dev/davinci7 \ --device=/dev/davinci_manager \ --device=/dev/devmm_svm \ --device=/dev/hisi_hdc \ -v /usr/local/Ascend/driver:/usr/local/Ascend/driver \ container_name='deepseek_v3' # 参数1：容器名称 image_id='2acbb0b1003d' # 参数2：镜像ID model_path='/data/Deepseek-V3-bf16/' # 参数3：权重路径 docker run -itd --privileged --name=$container_name --net=host --shm-size=500g \ --device=/dev/davinci0 \ --device=/dev/davinci1 \ --device=/dev/davinci2 \ --device=/dev/davinci3 \ --device=/dev/davinci4 \ --device=/dev/davinci5 \ --device=/dev/davinci6 \ --device=/dev/davinci7 \ --device=/dev/davinci_manager \ --device=/dev/devmm_svm \ --device=/dev/hisi_hdc \ -v /usr/local/Ascend/driver:/usr/local/Ascend/driver \ -v /usr/local/Ascend/add-ons/:/usr/local/Ascend/add-ons/ \ -v /usr/local/sbin/:/usr/local/sbin/ \ -v /var/log/npu/slog/:/var/log/npu/slog \ -v /var/log/npu/profiling/:/var/log/npu/profiling \ -v /var/log/npu/dump/:/var/log/npu/dump \ -v /var/log/npu/:/usr/slog \ -v /etc/hccn.conf:/etc/hccn.conf \ -v /data:/data \ $image_id /bin/bash ### 2. 分布式通信配置检查 检查`ranktable`文件配置，确认 4 台服务器（共 32 卡）的 IP 地址、Device ID 及 Rank ID 映射关系正确。 { "version": "1.0", "server_count": "4", "server_list": [ { "server_id": "17*********12", "container_ip": "17*********12", "device": [ { "device_id": "0", "device_ip": "19********.2", "rank_id": "0" }, { "device_id": "1", "device_ip": "19********.2", "rank_id": "1" }, { "device_id": "2", "device_ip": "19********.2", "rank_id": "2" }, { "device_id": "3", "device_ip": "19********.2", "rank_id": "3" }, { "device_id": "4", "device_ip": "19********.2", "rank_id": "4" }, { "device_id": "5", "device_ip": "19********.2", "rank_id": "5" }, { "device_id": "6", "device_ip": "19********.2", "rank_id": "6" }, { "device_id": "7", "device_ip": "19********.2", "rank_id": "7" } }, { "server_id": "17*********11", "container_ip": "17*********11", "device": [ { "device_id": "0", "device_ip": "19********.2", "rank_id": "8" }, { "device_id": "1", "device_ip": "19********.2", "rank_id": "9" }, { "device_id": "2", "device_ip": "19********.2", "rank_id": "10" }, { "device_id": "3", "device_ip": "19********.2", "rank_id": "11" }, { "device_id": "4", "device_ip": "19********.2", "rank_id": "12" }, { "device_id": "5", "device_ip": "19********.2", "rank_id": "13" }, { "device_id": "6", "device_ip": "19********.2", "rank_id": "14" }, { "device_id": "7", "device_ip": "19********.2", "rank_id": "15" } }, { "server_id": "17*********13", "container_ip": "17*********13", "device": [ { "device_id": "0", "device_ip": "19********.2", "rank_id": "16" }, { "device_id": "1", "device_ip": "19********.2", "rank_id": "17" }, { "device_id": "2", "device_ip": "19********.2", "rank_id": "18" }, { "device_id": "3", "device_ip": "19********.2", "rank_id": "19" }, { "device_id": "4", "device_ip": "19********.2", "rank_id": "20" }, { "device_id": "5", "device_ip": "19********.2", "rank_id": "21" }, { "device_id": "6", "device_ip": "19********.2", "rank_id": "22" }, { "device_id": "7", "device_ip": "19********.2", "rank_id": "23" } }, { "server_id": "17*********14", "container_ip": "17*********14", "device": [ { "device_id": "0", "device_ip": "19********.2", "rank_id": "24" }, { "device_id": "1", "device_ip": "19********.2", "rank_id": "25" }, { "device_id": "2", "device_ip": "19********.2", "rank_id": "26" }, { "device_id": "3", "device_ip": "19********.2", "rank_id": "27" }, { "device_id": "4", "device_ip": "19********.2", "rank_id": "28" }, { "device_id": "5", "device_ip": "19********.2", "rank_id": "29" }, { "device_id": "6", "device_ip": "19********.2", "rank_id": "30" }, { "device_id": "7", "device_ip": "19********.2", "rank_id": "31" } } ], "status": "completed" } ### 3. 服务配置与网络连通性 ● Service Config：检查服务配置文件，确认参数设置符合规范。 ● 网络连通性：执行网络连通性测试，确认各节点间通信正常。 ● TLS 配置：为确保通信顺畅，将四台机器的 TLS 状态设置为 0（）。 ### 4. 权重文件校验 初步对比正常节点与其他异常节点的权重文件 SHA256 值，结果显示完全匹配，初步判断权重文件无异常。 ● 校验命令：`sha256sum ./*.safetensors` ● 参考源：DeepSeek-V3-bf16权重文件 [了解详情](https://modelscope.cn/models/unsloth/DeepSeek-V3-bf16/files) ### 5. 软件版本兼容性 排查MindIE版本问题，发现MindIE 2.0.T3.1不支持32卡场景，更换MindIE 2.0.T3版本 结果：更换版本后，问题依旧存在，报错未消除。 ### 6. 排查权重文件 更换版本无效，重新检查权重文件。发现bf16 格式的权重文件在拷贝过程中发生丢失，导致模型加载失败。 为验证此假设，尝试将权重文件替换为int8 量化版本，成功拉起服务。 ## 问题根因 经过综合排查，导致该问题的根本原因有两个： 1. 软件版本兼容性：MindIE 2.0.T3.1 版本对 32 卡（4 机 8 卡）分布式场景支持不完善，需使用更稳定的 2.0.T3 版本。 2. 数据完整性缺失：异常节点的 bf16 权重文件在传输/拷贝过程中出现丢失，导致模型无法完整加载。 ## 解决措施 更换MindIE版本至2.0.T3，并且重新拷贝权重文件 边框设置 无框线 边距 宽度 1磅 颜色 自由布局设置 整体布局 子模块 评论 修订记录 对正文进行的文本增删、样式修改都将标记为修订 自定义多级列表 列表设置 - 1 - 2 - 3 - 4 - 5 - 6 - 7 - 8 - 9 - 1. - a. - i. - 1. - a. - i. - 1. - a. - i. 前缀 无 序号 1 2 3 ... 后缀 . 编号格式 列表显示 继承层级 不继承 位置 对齐方式 默认 单元格边距 边距 默认 左边距 cm 右边距 cm 上边距 cm 下边距 cm 点赞 0 本页内容 背景概述 [了解详情](https://www.hiascend.com/#6c6L3qqQBBJVdSkeyG1qdm) 问题现象 [了解详情](https://www.hiascend.com/#4DokEZE9jHfx21wZISa8wp) 排查过程 [了解详情](https://www.hiascend.com/#5BPRk47NLM7h93DSN4WWdM) 问题根因 [了解详情](https://www.hiascend.com/#6Oab70Oz6jTIdejx4jhJX3) 解决措施 [了解详情](https://www.hiascend.com/#3yqxPfPn6S4IniJPTpr6Qx)