【问题描述】

启动mindie，报错：

File "/usr/local/Ascend/atb-models/atb_llm/utils/data/weight_wrapper.py", line 49, in __init__

self.placeholder = torch.zeros(1, dtype=torch.float16, device="npu")

^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^

RuntimeError: call aclnnInplaceZero failed, detail:EZ9999: Inner Error!

EZ9999: [PID: 218] 2025-02-20-16:23:55.310.984 Parse dynamic kernel config fail.

TraceBack (most recent call last):

AclOpKernelInit failed opType

ZerosLike ADD_TO_LAUNCHER_LIST_AICORE failed.

【产品及版本】

MindIE镜像：2.0.T3-800I-A2-py311-openeuler24.03-lts 和1.0.0-800I-A2-py311-openeulsr24.03-lts

HDK：23.0.0

CANN：8.0.0

硬件服务器：Intel+910A服务器

【问题原因】

MindIE镜像中按照的kernel和服务器NPU硬件不兼容

【处理过程】

1. 从报错信息看是和kernel相关。排查以下kernel情况：

a. 检查kernel包是否安装

b. 安装的kernel包和机型是否匹配，kernel包对机器型号有适用范围

检查路径：$ASCEND_TOOLKIT_HOME/opp/built-in/op_impl/ai_core/tbe/kernel/

如下图为910b kernel包

2. 根据提供的安装路径截图，检查和硬件机型是否匹配，硬件机型可以通过npu-smi info获取。

3. 从上图看kernel的安装目录是ascend910b，但硬件机型是910A. 不兼容

4. 以下是CANN版本包含的kernel安装包，注意红框的区别

【解决方案】

遇到报错，有以下可能原因。 本案例是原因3导致

可能原因1：kernel包未安装

可能原因2：kernel包安装路径错误，如同时安装了nnrt和toolkit包，kernel包安装到toolkit里面，但source了nnrt的环境变量

可能原因3：安装了不适配的kernel包