功能介绍

Node Manager是MindIE的节点级健康管理组件，只支持在大规模专家并行场景中拉起对应的推理服务引擎进程，作为Server Endpoint的守护进程，负责进程管理和健康管理，执行实例级的推理业务快速恢复流程。