MindSpeed
帮助开发者认识、了解训练加速套件MindSpeed，以及如何基于此进行模型开发和调优。
快速上手
PyTorch框架
- MindSpeed Core
以GPT模型为例，介绍将其从GPU迁移至NPU上运行的方法。
- MindSpeed LLM
以Qwen2.5-7B模型为例，指导开发者完成大语言模型的预训练任务。
- MindSpeed MM
以Qwen2.5-VL-3B和Wan2.1-T2V-1.3B模型为例，介绍将其从GPU迁移至NPU上运行的方法。
- MindSpeed RL
以强化学习算法GRPO训练Qwen2.5-7B模型为例，介绍将其从GPU迁移至NPU上运行的方法。
MindSpore框架
环境准备
PyTorch框架
- MindSpeed Core安装
在昇腾设备上搭建大模型训练加速特性训练环境。
- MindSpeed LLM安装
在昇腾设备上搭建LLM大语言模型训练环境。
- MindSpeed MM安装
在昇腾设备上搭建MM多模态模型训练环境。
- MindSpeed RL安装
在昇腾设备上搭建RL强化学习训练环境。
MindSpore框架
已适配的模型训练
PyTorch框架
- MindSpeed MM支持的模型列表
参考各模型的readme进行训练、微调和推理等。
- MindSpeed LLM支持的模型列表
参考各模型的readme进行训练、分布式预训练、分布式指令微调。
- MindSpeed RL支持的模型列表
参考各模型的readme进行强化学习。
MindSpore框架