我在尝试用baichuan模型做benchmark出现如上错误。
我已经利用mindie提供的脚本将模型参数由bin转化为safetensor,并且在mindie server的config中modelweightpath和model name改为baichuan对应的。
我已经将baichuan模型权重路径下的data_type由bfloat16改为float16,
但是,种种尝试还是无法进行benchmark测试。
ps:我参考的是如下流程
https://www.hiascend.com/document/detail/zh/mindie/100/mindieservice/servicedev/mindie_service0157.html
此外,我按照一些类似问题尝试过修改npunumber,但是还是不行
如果下一步的话,那就是要重新安装cann了
RuntimeError: call aclnnInplaceZero failed, detail:EZ9999: Inner Error! EZ9999: [PID: 1951229] 2025-01-25-16:00:50.526.795 Parse dynamic kernel config fail. TraceBack (most recent call last): AclOpKernelInit failed opType ZerosLike ADD_TO_LAUNCHER_LIST_AICORE failed.我在尝试用baichuan模型做benchmark出现如上错误。
我已经利用mindie提供的脚本将模型参数由bin转化为safetensor,并且在mindie server的config中modelweightpath和model name改为baichuan对应的。
我已经将baichuan模型权重路径下的data_type由bfloat16改为float16,
但是,种种尝试还是无法进行benchmark测试。
ps:我参考的是如下流程
https://www.hiascend.com/document/detail/zh/mindie/100/mindieservice/servicedev/mindie_service0157.html
此外,我按照一些类似问题尝试过修改npunumber,但是还是不行
如果下一步的话,那就是要重新安装cann了