运行benckmark报错
收藏回复举报
运行benckmark报错
t('forum.solved') 已解决
发表于2025-01-26 11:41:19
0 查看
RuntimeError: call aclnnInplaceZero failed, detail:EZ9999: Inner Error!
EZ9999: [PID: 1951229] 2025-01-25-16:00:50.526.795 Parse dynamic kernel config fail.
        TraceBack (most recent call last):
       AclOpKernelInit failed opType
       ZerosLike ADD_TO_LAUNCHER_LIST_AICORE failed.

我在尝试用baichuan模型做benchmark出现如上错误。

我已经利用mindie提供的脚本将模型参数由bin转化为safetensor,并且在mindie server的config中modelweightpath和model name改为baichuan对应的。

我已经将baichuan模型权重路径下的data_type由bfloat16改为float16,

但是,种种尝试还是无法进行benchmark测试。


ps:我参考的是如下流程

https://www.hiascend.com/document/detail/zh/mindie/100/mindieservice/servicedev/mindie_service0157.html


此外,我按照一些类似问题尝试过修改npunumber,但是还是不行

如果下一步的话,那就是要重新安装cann了

我要发帖子