华为昇腾MindIE部署Qwen2-72B模型时服务启动失败求助

环境信息：华为Atlas 800T A2训练服务器（8 * 910B 64G），CANN 8.1.RC1，MindIE 2.1.RC2

问题一句话总结：使用MindIE部署Qwen2-72B模型时，服务启动过程中在模型加载阶段卡死，无错误日志但NPU内存占用停滞

问题详细描述

我在华为昇腾环境中尝试部署Qwen2-72B大模型时遇到服务启动失败问题。具体现象如下：

当执行 ./mindieservice_daemon启动服务后，日志显示模型加载开始，但在初始化到约30%时进程卡住，NPU内存占用停留在约40GB左右不再增长。系统监控显示NPU计算单元无活动，但进程也未退出，持续保持该状态超过2小时。

关键配置信息

硬件配置：

• 服务器型号：Atlas 800T A2

• NPU配置：8*Ascend 910B 64G

• CPU：Kunpeng 920 128核

• 内存：512GB DDR4

• 存储：NVMe SSD 3.2TB

软件环境：

• 操作系统：OpenEuler 24.03 LTS

• CANN版本：8.1.RC1

• MindIE版本：2.1.RC2

• 容器环境：Docker 25.0.3

模型信息：

• 模型：Qwen2-72B-Instruct-2512

• 权重格式：safetensors

• 模型大小：约135GB（float16）

MindIE配置文件关键参数：

{
    "npuDeviceIds": [[0,1,2,3,4,5,6,7]],
    "worldSize": 8,
    "modelInstanceType": "Standard",
    "modelName": "qwen2",
    "modelWeightPath": "/models/Qwen2-72B-Instruct-2512",
    "maxSeqLen": 8192,
    "maxInputTokenLen": 6144,
    "cpuMemSize": 10,
    "npuMemSize": -1
}

问题现象截图

1. 服务启动日志截图：显示模型加载进度停滞在30%

2. NPU监控截图：显示内存占用稳定在40GB，计算利用率0%

3. 系统资源监控：CPU利用率约15%，内存占用约87GB

使用场景或目的

我们需要在内部推理平台部署Qwen2-72B模型，用于支持代码生成和技术文档自动化生成业务。该模型需要同时处理多个并发请求，预期QPS为5-8。

操作步骤

1. 环境准备：按照官方文档安装CANN 8.1.RC1和MindIE 2.1.RC2

2. 模型下载：从ModelScope官方下载Qwen2-72B-Instruct-2512完整权重

3. 容器启动：

   docker run -itd --privileged --net=host --shm-size=32g \
   --device=/dev/davinci0 --device=/dev/davinci1 ... \
   -v /models/Qwen2-72B-Instruct-2512:/models:rw \
   swr.cn-south-1.myhuaweicloud.com/ascendhub/mindie:2.1.RC1-800I-A2-py311-openeuler24.03-lts

4. 配置修改：调整config.json中的NPU设备映射和模型路径

5. 服务启动：执行 /usr/local/Ascend/mindie/latest/mindie-service/bin/mindieservice_daemon

已尝试的解决方法

1. 调整内存参数：将cpuMemSize从5增加到10，npuMemSize尝试设置具体值（56）和-1

2. 检查权重完整性：验证模型文件SHA256校验和，全部匹配成功

3. 简化配置：关闭TLS（"interCommTLSEnabled": false）、禁用HTTPS

4. 权限检查：确保模型目录权限为755，config.json权限为640

5. 设备验证：使用 python3 -c "import torch;import torch_npu; a = torch.randn(3, 4).npu(); print(a + a)"验证NPU基础功能正常

期望的解决方案

希望得到以下帮助：

1. 诊断模型加载卡住的根本原因

2. 提供Qwen2-72B模型在MindIE下的正确配置方案

3. 建议针对超大模型（>70B）的部署最佳实践