MindSpeed
MindSpeed是一款专为昇腾平台打造的高性能加速库,涵盖面向LLM/MM/Omni等不同类型大模型的训练套件、加速库,支持Megatron/FSDP2后端。帮助开发者认识、了解训练加速套件MindSpeed,以及如何基于此进行模型开发和调优。
MindSpeed 关键特性
- MindSpeed LLM:新增支持GLM5.2模型训练和DeepSeekV4长序列,且权重/数据合一功能覆盖全量模型,显著提升模型训练能力。
- MindSpeed MM:新增支持Kimi-K3,GLM5.3 NEXT,MiniMax M3模型。
- MindSpeed Bridge:面向Bridge方案的昇腾大模型套件。新增Kimi-K3多模态模型训练与适配;Qwen3.5-VL支持序列打包与上下文并行;GLM5/GLM5.2支持融合算子与packed TND训练;新增支持MoE permute融合及预加载VLM数据集shuffle控制。
- TransformerEngineNPU:适配原生TransformerEngine,沿用上游接口,以融合模块与autocast量化上下文承载FP8、MXFP8、HIF8、W4A8等低精度策略,并拓展MoE路由融合、CPU Offload、Swap上下文并行注意力与FusedAdam优化器等特性。
- MegatronAdaptor:面向Megatron的昇腾适配插件库。内置特性覆盖基础运行环境适配、Megatron基础适配、NPU Profiling、NPU数据 Dump精度对照、NPU确定性计算等。
- FSDPTurbo:面向FSDP方案的昇腾大模型加速库。支持FSDP、TP、EP、EFSDP、CP多维并行自由组合,兼顾训练吞吐与集群扩展性,轻松支撑长序列训练;同时提供激活重计算、微批次切分、激活值与优化器状态交换等内存优化手段,以及MXFP8、W8A16低比特量化加速,用更少显存、更低成本训练更大模型。
- MindSpeed Core:面向Megatron方案的昇腾大模型加速库。MindSpeed Core适配 Megatron-LM core v0.18.0,解耦MindSpeed、MegatronAdaptor与TransformerEngineNPU,并新增get_batch配置缓存以减少重复配置解析开销。
- MindSpeed Ops:面向昇腾训练的自定义融合算子库。集成昇腾算子多种开发范式,接口签名统一,底层可选Triton、TileLang、AscendC、CATLASS,并针对
Atlas A3训练系列产品 、Ascend 950PR&950DT系列产品 两代架构分别优化。