错误码展示方式说明

00（前2位）

子组件编码。子组件编码参考：

• 00：ATB_MODELS。
• 01：TEXT_GENERATOR。
• 03：BACKEND。
• 04：LLM_MANAGER。

00（中间2位）

特性编码。

02（最后2位）

错误类型。编码参考：

• ATB_MODELS：
  • 00：初始化失败：模型参数校验失败。
  • 01：初始化失败：模型组图 param json校验失败。
  • 02：模型运行时：framework execute失败。
• TEXT_GENERATOR：
  • 00：初始化失败：插件特性不支持。
  • 01：初始化失败：特性使用场景限制条件不满足。
  • 02：请求推理失败：无效的request_ids。
  • 03：请求推理失败：采样参数非法。
  • 04：请求推理失败：惩罚类参数非法。
  • 05：请求推理失败：没有正常执行推理流程，除零保护。
  • 06：请求推理失败：没有正常执行推理流程。
  • 07：请求推理失败：无效的request_ids。
  • 08：初始化失败：generator_backend类型不支持。
  • 09：请求推理失败：校验request_ids的shape失败。
  • 10：请求推理失败：decode阶段找不到参数缓存。
  • 11：请求推理失败：block_size校验失败。
  • 12：初始化失败：eos_token_id不合法。
• BACKEND：
  • 00：模型配置参数（ModelDeployConfig）校验失败。
  • 01：初始化modelbackend失败。
• LLM_MANAGER：
  • 00：BackendConfig配置参数校验失败。
  • 01：LLMInferModels初始化失败。