昇腾社区首页
中文
注册

集群资源

cluster-info-<device/node/switch>-<[0-5]>

  • n为从0开始递增的整数。集群规模每增加2000个节点,则会新增一个ConfigMap文件cluster-info-node-${n}
  • m为从0开始递增的整数。集群规模每增加1000个节点,则会新增一个ConfigMap文件cluster-info-device-${m}。
  • x为从0开始递增的整数。集群规模每增加2000个节点,则会新增一个ConfigMap文件cluster-info-switch-${x}。
表1 cluster-info-node-${n}

参数名

描述

mindx-dl-nodeinfo-<kwok-node-0>

前缀为固定的mindx-dl-nodeinfo,kwok-node-0是节点名称,方便定位故障的具体节点

NodeInfo

节点维度的故障信息。

FaultDeviList

节点故障设备列表。

- DeviceType

故障设备类型。

- DeviceId

故障设备ID。

- FaultCode

故障码,由英文和数组拼接而成的字符串,字符串表示故障码的十六进制。

- FaultLevel

故障处理等级。

  • NotHandleFault:无需处理。
  • PreSeparateFault:该节点上有任务则不处理,后续调度时不调度任务到该节点。
  • SeparateFault:任务重调度。

-fault_time_map

故障发生的时间

NodeStatus

节点健康状态,由本节点故障处理等级最严重的设备决定。

  • Healthy:该节点故障处理等级存在且不超过NotHandleFault,该节点为健康节点,可以正常训练。
  • PreSeparate:该节点故障处理等级存在且不超过PreSeparateFault,该节点为预隔离节点,暂时可能对任务无影响,待任务受到影响退出后,后续不会再调度任务到该节点。
  • UnHealthy:该节点故障处理等级存在SeparateFault,该节点为故障节点,将影响训练任务,立即将任务调离该节点。
表2 cluster-info-device-${m}

参数名

描述

mindx-dl-deviceinfo-<kwok-node-0>

前缀为固定的mindx-dl-deviceinfo,kwok-node-0是节点名称,用于定位故障的具体节点。

huawei.com/Ascend910

当前节点可用的芯片名称信息,存在多个时用英文逗号拼接。

huawei.com/Ascend910-NetworkUnhealthy

当前节点网络不健康的芯片名称信息,存在多个时用英文逗号拼接。

huawei.com/Ascend910-Unhealthy

当前芯片不健康的芯片名称信息,存在多个时用英文逗号拼接。

huawei.com/Ascend910-Fault

数组对象,对象包含fault_type、npu_name、large_model_fault_level、 fault_level、fault_handling和fault_code等6个字段。

- fault_type

故障类型。

  • CardUnhealthy:芯片故障
  • CardNetworkUnhealthy:参数面网络故障(芯片网络相关故障)
  • NodeUnhealthy:节点故障

- npu_name

故障的芯片名称,节点故障时为空。

- large_model_fault_level

故障处理类型,节点故障时取值为空。

  • NotHandleFault:不做处理
  • RestartRequest:推理场景需要重新执行推理请求,训练场景重新执行训练业务
  • RestartBusiness:需要重新执行业务
  • FreeRestartNPU:直接复位芯片并重新执行业务
  • RestartNPU:直接复位芯片并重新执行业务
  • SeparateNPU:隔离芯片
  • PreSeparateNPU:预隔离芯片,会根据训练任务实际运行情况判断是否重调度
说明:

large_model_fault_level、fault_handling和fault_level参数功能一致,推荐使用fault_handling。

- fault_level

- fault_handling

- fault_code

故障码,英文逗号拼接的字符串。

SuperPodID

超节点ID。

ServerIndex

当前节点在超节点中的相对位置。

说明:
  • 驱动上报的SuperPodID或ServerIndex的值为0xffffffff时,SuperPodID或ServerIndex的取值为-1。
  • 存在以下情况,SuperPodID或ServerIndex的取值为-2。
    • 当前设备不支持查询超节点信息。
    • 因驱动问题导致获取超节点信息失败。
表3 cluster-info-switch-${x}

参数名

描述

FaultCode

当前节点的总线设备故障码列表。

数组对象,包含EventType、AssembledFaultCode、PeerPortDevice、PeerPortId、SwitchChipId、Severity、Assertion、AlarmRaisedTime等字段。

FaultLevel

当前节点故障处理等级。

取FaultCode中所有故障中等级最高的故障等级,取值包含:NotHandle,PreSeparate,Separate。

UpdateTime

故障上报刷新时间。

NodeStatus

当前节点健康状态

对应FaultLevel取值,NotHandle:Healthy,PreSeparate:SubHealthy,Separate:UnHealthy。