MIE05E010016
故障现象
MindIE请求推理失败:LLM-DataDist出现未知故障。
故障原因
推理采用PD分离方式,在调用Generator.pull_kv时CANN的DataDist接口出现未知错误。
故障定位方法
若出现本故障,请保留现场,获取Host/Device日志,并备份,然后重启机器或容器。
父主题: MindIE LLM错误码参考
MindIE请求推理失败:LLM-DataDist出现未知故障。
推理采用PD分离方式,在调用Generator.pull_kv时CANN的DataDist接口出现未知错误。
若出现本故障,请保留现场,获取Host/Device日志,并备份,然后重启机器或容器。