昇腾社区首页
中文
注册

MIE05E010016

故障现象

MindIE请求推理失败:LLM-DataDist出现未知故障。

故障原因

推理采用PD分离方式,在调用Generator.pull_kv时CANN的DataDist接口出现未知错误。

故障定位方法

若出现本故障,请保留现场,获取Host/Device日志,并备份,然后重启机器或容器。