昇腾社区首页
中文
注册

错误码展示方式说明

MindIE LLM组件后6位错误码,十进制。以000002为例,各段含义如表1所示。

表1 错误码各段说明

错误码字段

说明

00(前2位)

子组件编码。子组件编码参考:

  • 00:ATB_MODELS
  • 01:TEXT_GENERATOR
  • 03:BACKEND
  • 04:LLM_MANAGER

00(中间2位)

特性编码。

02(最后2位)

错误类型。编码参考:

  • ATB_MODELS:
    • 00:初始化失败:模型参数校验失败。
    • 01:初始化失败:模型组图param json校验失败。
    • 02:模型运行时:framework execute失败。
  • TEXT_GENERATOR:
    • 00:初始化失败:插件特性不支持。
    • 01:初始化失败:特性使用场景限制条件不满足。
    • 02:请求推理失败:无效的request_ids。
    • 05:请求推理失败:没有正常执行推理流程,除以零保护。
    • 06:请求推理失败:没有正常执行推理流程。
    • 07:请求推理失败:无效的request_ids。
    • 08:初始化失败:generator_backend类型不支持。
    • 09:请求推理失败:校验request_ids的shape失败。
    • 10:请求推理失败:decode阶段找不到参数缓存。
    • 11:请求推理失败:block_size校验失败。
    • 12:初始化失败:eos_token_id不合法。
    • 16:请求推理失败:LLM-DataDist出现未知故障。
    • 17:请求推理失败:block id不合法。
    • 18:请求推理失败:remote_model_instance_id不合法。
    • 19:请求推理失败:PD分离时link失败或pull_kv失败。
    • 1A:请求推理失败:对一个已经建立连接的device重复连接。
    • 1B:请求推理失败:link超时。
  • BACKEND:
    • 00:模型配置参数(ModelDeployConfig)校验失败。
    • 01:初始化modelbackend失败。
  • LLM_MANAGER:
    • 00:BackendConfig配置参数校验失败。
    • 01:LLMInferModels初始化失败。