求助帖:MindIE 启动卡死,日志停滞在 model_runner.dtype,NPU 进程存在但模型未加载
问题描述
执行 ./mindieservice_daemon 后,服务启动并输出初始化日志,但随后长时间无任何进展(已等待超过10分钟)。具体表现为:
服务器及其他信息
硬件环境
- 服务器平台:华为鲲鹏 920-3226(ARM 架构)
- NPU 数量:8 × 昇腾 310P3
- 架构:aarch64
软件版本
模型信息
- 模型名称:
DeepSeek-R1-Distill-Qwen-7B - 模型路径:`/root/models/DeepSeek-R1-Distill-Qwen-7B
求助帖:MindIE 启动卡死,日志停滞在
model_runner.dtype,NPU 进程存在但模型未加载问题描述
执行
./mindieservice_daemon后,服务启动并输出初始化日志,但随后长时间无任何进展(已等待超过10分钟)。具体表现为:日志停留在以下位置:
log
深色版本
使用
npu-smi info查看 NPU 状态,发现 NPU 5 和 6 上有mindie_llm_back进程运行,显存占用约 97MB,但是 AICore 利用率为 0%,显存占用远低于预期的 7B 模型需求。服务器及其他信息
硬件环境
软件版本
4.19.90-89.24.v2401.ky10.aarch64Ascend-cann-toolkit_8.2.RC1_linux-aarch64/usr/local/Ascend/ascend-toolkit/8.2.RC1/aarch64-linuxAscend-hdk-310p-npu-driver_25.2.0_linux-aarch64Ascend-hdk-310p-npu-firmware_7.7.0.6.236kernel-devel,kernel-headers(4.19.90-89.11)torch_npu-2.6.0-cp310-cp310-manylinux_2_28_aarch64.whlaclruntime,ais_bench1.0.0(路径:/usr/local/Ascend/mindie/1.0.0)模型信息
DeepSeek-R1-Distill-Qwen-7B