MindX DL架构

MindX DL的系统架构如图 MindX DL架构所示：

图1 MindX DL架构

表1 各组件功能介绍
特性	组件	功能介绍
集群调度	Ascend Device Plugin	基于Kubernetes设备插件机制，增加昇腾AI处理器的设备发现、设备分配、设备健康状态上报功能，使Kubernetes可以管理昇腾AI处理器资源。
	HCCL-Controller	华为研发的一款用于昇腾AI处理器训练任务的组件，利用Kubernetes（简称K8s）的informer机制，持续记录训练任务及其Pod的各种事件，并读取Pod的昇腾AI处理器信息，生成对应的configmap。该configmap包含了训练任务所依赖的集合通讯配置，方便训练任务更好地协同和调度底层的昇腾AI处理器，无需用户手动配置。
	Volcano	基于开源Volcano调度的插件机制，增加昇腾AI处理器的亲和性调度、故障重调度等特性，最大化发挥昇腾AI处理器计算性能。
	NPU-Exporter	该组件为Prometheus生态组件，提供了昇腾AI处理器资源各种指标的实时看管，可实时获取昇腾AI处理器利用率、温度、电压、内存，以及昇腾AI处理器在容器中的分配状况等信息。
	NodeD	提供节点状态上报功能，如节点心跳上报。
	Elastic-Agent	在数据并行、混合并行场景下提供断点续训临终遗言（临终ckpt）和策略恢复功能。当用户需要使用断点续训临终遗言功能时，需要在训练容器中安装该组件。
	Resilience-Controller	韧性控制器，提供最小训练系统的韧性控制。在训练任务使用的硬件故障时，可以剔除该硬件，继续训练。
	Ascend Docker Runtime	容器引擎插件，为所有AI作业提供NPU容器化支持，使用户进行AI作业时能够以Docker容器的方式平滑地在昇腾设备上运行。
ToolBox	Ascend-dmi	为Atlas产品的标卡、板卡及模组类产品提供带宽测试、算力测试、功耗测试等功能。
ToolBox	AtlasCert	为软件包提供数据签名校验、CRL证书吊销列表的比较更新功能，保证软件包的安全性和CRL文件的有效性。