开发者
资源

MindSpeed

大语言模型套件

MindSpeed LLM基于昇腾生态的大语言模型分布式训练框架,旨在为华为昇腾芯片生态合作伙伴提供端到端的大语言模型训练方案,包含分布式预训练、分布式指令微调以及对应的开发工具链

多模态模型套件

MindSpeed MM是面向大规模分布式训练的昇腾多模态大模型套件,同时支持多模态生成及多模态理解,旨在为华为 昇腾芯片 提供端到端的多模态训练解决方案, 包含预置业界主流模型,数据工程,分布式训练及加速,预训练、微调、在线推理任务、强化学习等特性。

大模型训练加速库

MindSpeed Core是针对华为昇腾设备的大模型加速库。使客户大模型业务能快速迁移至昇腾设备,并且支持昇腾专有算法,确保开箱可用。

  • 软件安装

    介绍如何安装MindSpeed Core。

  • 特性使用

    展示MindSpeed Core相关特性的发布情况,PyTorch框架的支持情况和序列并行场景性能优化案例。

  • 自定义算子

    介绍自定义算子发布情况和PyTorch框架的支持情况。

强化学习开发套件

MindSpeed RL是基于昇腾生态的强化学习加速框架,旨在为华为昇腾芯片生态合作伙伴提供端到端的RL训推解决方案,支持超大昇腾集群训推共卡/分离部署、多模型异步流水调度、训推异构切分通信等核心加速能力。

参考

  • 安全声明

    MindSpeed相关组件的安全加固措施建议。