方案介绍
优创云AIPaaS平台是针对中国AI市场需求打造的开放的AI平台。该平台基于其自主的专利技术的PaaS+AI的技术架构,依托多年企业级软件技术和产品研发经验,为客户提供AI应用研发和运行的工程环境,一方面通过NPU资源虚拟化和分布式训练技术提供高效的算力优化管理,弹性灵活地满足不同场景机器学习对算力、性能、安全和成本的需求;另一方面平台预置常用AI框架,通过提供高效的机器学习开发运维 (MLOps),全流程地支持AI模型的构建、训练、部署和运维。
方案架构图
算法/关键配置
适配算法/关键配置名称算法/关键配置描述
算力优化将NPU卡切分出多张小的vNPU卡,并对其显存和算力进行限制,旨在提高NPU资源的利用率和灵活性。
vNPU调度在K8s(Kubernetes)集群中对vNPU(多实例NPU或虚拟NPU)卡进行调度,旨在使不同容器能够安全地共享同一张物理NPU卡,从而提高物理NPU卡的利用率。
参数调优提供Auto ML自动超参调优,内置多种搜索算法,提高训练效率。
LLM AutoTrain (自动训练调优)超参优化(HO) 和结构化调优 (ST)。
优势亮点
  • 优创云AIPaaS平台融合多种开放的云计算和AI技术,平台支持各种主流的云计算和AI框架,为企业级用户提供私有云、公有云及混合云的多形态AI产品和服务解决方案,帮助用户更灵活地选择与其业务战略相适应的智能云架构,快速实现智能应用落地。
  • 优创云AIPaaS平台可以整合现有IAAS层的基础设施资源,简化AI开发复杂的过程,实现一站式AI开发。用户通过优创云AIPaaS平台,能够根据自己需求申请到自己想要的IT资源如CPU、NPU、内存、硬盘以及AI开发框架,实现秒级的AI开发/训练环境创建,从而有效的解决环境部署复杂、资源配比不合理、资源利用率低等问题。
资源下载
  • 优软创新-优创云AIPaaS平台解决方案主打胶片.pdf

下载技术认证书
  • Compatible认证证书.pdf

暂无评分
我要评分