NodeD
- 使用整卡调度、静态vNPU调度、动态vNPU调度、推理卡故障恢复、推理卡故障重调度、断点续训或弹性训练时,必须安装NodeD。
- 仅使用容器化支持和资源监测的用户,可以不安装NodeD,请直接跳过本章节。
- NodeD的节点硬件故障上报能力仅支持Atlas 800T A2 训练服务器和Atlas 900 A2 PoD 集群基础单元。
- 仅V2 3.15.0.1及以上版本或者V2 3.10.02.55版本的iBMC,且安装了IPMC驱动的产品,支持NodeD的节点硬件故障上报能力。低版本的iBMC或IPMI获取节点故障信息失败时,将只上报节点健康状态。
操作步骤
- 以root用户登录各计算节点,并执行以下命令查看镜像和版本号是否正确。
- 将NodeD软件包解压目录下的YAML文件,拷贝到K8s管理节点上任意目录。
- 如不修改组件启动参数,可跳过本步骤。否则,请根据实际情况修改YAML文件中NodeD的启动参数。启动参数请参见表1,可执行./noded -h查看参数说明。
- (可选)使用断点续训或者弹性训练时,需要配置节点状态上报间隔。在NodeD启动YAML文件的“args”行增加“-reportInterval”参数,如下所示:
... env: - name: NODE_NAME valueFrom: fieldRef: fieldPath: spec.nodeName imagePullPolicy: Never command: [ "/bin/bash", "-c", "--"] args: [ "/usr/local/bin/noded -logFile=/var/log/mindx-dl/noded/noded.log -logLevel=0 -reportInterval=5" ] securityContext: readOnlyRootFilesystem: true allowPrivilegeEscalation: true volumeMounts: - name: log-noded ...
- 在管理节点的YAML所在路径,执行以下命令,启动NodeD。
kubectl apply -f noded-v{version}.yaml
启动示例如下:
serviceaccount/noded created clusterrole.rbac.authorization.k8s.io/pods-noded-role created clusterrolebinding.rbac.authorization.k8s.io/pods-noded-rolebinding created daemonset.apps/noded created
- 执行以下命令,查看组件是否启动成功。
kubectl get pod -n mindx-dl
回显示例如下,出现Running表示组件启动成功。
1 2 3 4
NAME READY STATUS RESTARTS AGE ... noded-fd6t8 1/1 Running 0 74s ...

- 安装组件后,组件的Pod状态不为Running,可参考组件Pod状态不为Running章节进行处理。
- 安装组件后,组件的Pod状态为ContainerCreating,可参考集群调度组件Pod处于ContainerCreating状态章节进行处理。
- 启动组件失败,可参考启动集群调度组件失败,日志打印“get sem errno =13”章节信息。
- 组件启动成功,找不到组件对应的Pod,可参考组件启动yaml执行成功,找不到组件对应的Pod章节信息。
参数说明
参数 |
类型 |
默认值 |
说明 |
---|---|---|---|
-reportInterval |
int |
5 |
|
-monitorPeriod |
int |
60 |
节点硬件故障的轮询检测周期,取值范围为60~600,单位为秒。 |
-version |
bool |
false |
是否查询当前NodeD的版本号。
|
-logLevel |
int |
0 |
日志级别:
|
-maxAge |
int |
7 |
日志备份时间,取值范围为7~700,单位为天。 |
-resultMaxAge |
int |
7 |
pingmesh结果备份文件保留的天数。取值范围为【7-300】,单位为天。 说明:
该参数仅支持在Atlas 900 A3 SuperPoD 超节点、Atlas 9000 A3 SuperPoD 集群算力系统上使用。且所使用的驱动版本需≥24.1.RC1。 |
-logFile |
string |
/var/log/mindx-dl/noded/noded.log |
日志文件。 说明:
单个日志文件超过20 MB时会触发自动转储功能,文件大小上限不支持修改。转储后文件的命名格式为:noded-触发转储的时间.log,如:noded-2023-10-07T03-38-24.402.log。 |
-maxBackups |
int |
30 |
转储后日志文件保留个数上限,取值范围为1~30,单位为个。 |
-h或者-help |
无 |
无 |
显示帮助信息。 |
父主题: 手动安装