昇腾社区首页
中文
注册

hccl.json文件没有生成

问题现象描述

当启动一个训练任务后,训练任务容器内部hccl.json文件处于initializing状态(文件默认路径:“/user/serverid/devindex/config/hccl.json”)。

执行kubectl exec -it XXX bash 进入容器,若Pod不在default命名空间,则需要加-n XXX指明命名空间,如:kubectl exec -it XXX -n XXX bash

原因分析

  • 原因一:HCCL Controller没有正常启动。
  • 原因二:Ascend Device Plugin启动参数配置了“-volcanoType=false”,可通过如下命令进行确认。
    ps -ef | grep "device-plugin"
  • 原因三:若Ascend Device Plugin组件日志出现如下内容,表示Ascend Device Plugin没有正确获取到device ip导致无法写Pod的Annotations。
    Get device ip failed

解决措施

原因一:参考MindX DL 集群调度用户指南安装相关内容,重新安装HCCL Controller

原因二:参考MindX DL 集群调度用户指南,修改Ascend Device Plugin的启动参数“-volcanoType=true”之后再重新apply对应的yaml文件。

原因三:正确配置device ip,请参见CANN 软件安装指南中“常用操作 > 配置网卡IP地址”章节。