实现说明
Deployer部署器提供Server推理服务在K8s集群场景下的部署管理能力,具体能力请参见功能介绍。 Deployer包含一个服务端组件ms_server和一个客户端组件msctl,以下内容将介绍Deployer服务端的部署流程。
前提条件
已参照Kubernetes安装与配置、MindCluster组件安装和准备MindIE镜像完成K8s的安装配置、MindCluster组件的安装和MindIE镜像制作。
- 如果只需要部署一个Server服务进行推理的场景,请参见使用Deployer部署服务示例进行部署。
- 如果需要配合使用集群管理组件(Deployer、Controller和Coordinator)功能的场景,请参见使用kubectl部署服务示例进行部署。
父主题: 部署Deployer服务端