单机混部

场景介绍

单台推理机的显存大于模型部署所需显存的场景下，用户可以使用单机PD混合部署的方式部署推理服务。

安装部署

请参考《MindIE安装指南》中的“安装MindIE”章节，进行环境的安装与部署。

请参考《MindIE安装指南》中的“配置MindIE > 配置Server > 单机推理”章节，进行配置。