开发者
下载

MindSpeed

MindSpeed是一款专为昇腾平台打造的高性能加速库,涵盖面向LLM/MM/Omni等不同类型大模型的训练套件、加速库,支持Megatron/FSDP2后端。帮助开发者认识、了解训练加速套件MindSpeed,以及如何基于此进行模型开发和调优。

MindSpeed 关键特性

  • MindSpeed LLM:新增支持GLM5.2模型训练和DeepSeekV4长序列,且权重/数据合一功能覆盖全量模型,显著提升模型训练能力。
  • MindSpeed MM:新增支持Kimi-K3,GLM5.3 NEXT,MiniMax M3模型。
  • MindSpeed Bridge:面向Bridge方案的昇腾大模型套件。新增Kimi-K3多模态模型训练与适配;Qwen3.5-VL支持序列打包与上下文并行;GLM5/GLM5.2支持融合算子与packed TND训练;新增支持MoE permute融合及预加载VLM数据集shuffle控制。
  • TransformerEngineNPU:适配原生TransformerEngine,沿用上游接口,以融合模块与autocast量化上下文承载FP8、MXFP8、HIF8、W4A8等低精度策略,并拓展MoE路由融合、CPU Offload、Swap上下文并行注意力与FusedAdam优化器等特性。
  • MegatronAdaptor:面向Megatron的昇腾适配插件库。内置特性覆盖基础运行环境适配、Megatron基础适配、NPU Profiling、NPU数据 Dump精度对照、NPU确定性计算等。
  • FSDPTurbo:面向FSDP方案的昇腾大模型加速库。支持FSDP、TP、EP、EFSDP、CP多维并行自由组合,兼顾训练吞吐与集群扩展性,轻松支撑长序列训练;同时提供激活重计算、微批次切分、激活值与优化器状态交换等内存优化手段,以及MXFP8、W8A16低比特量化加速,用更少显存、更低成本训练更大模型。
  • MindSpeed Core:面向Megatron方案的昇腾大模型加速库。MindSpeed Core适配 Megatron-LM core v0.18.0,解耦MindSpeed、MegatronAdaptor与TransformerEngineNPU,并新增get_batch配置缓存以减少重复配置解析开销。
  • MindSpeed Ops:面向昇腾训练的自定义融合算子库。集成昇腾算子多种开发范式,接口签名统一,底层可选Triton、TileLang、AscendC、CATLASS,并针对Atlas A3训练系列产品、Ascend 950PR&950DT系列产品两代架构分别优化。

查阅MindSpeed文档

表4 MindSpeed Bridge模型套件

MindSpeed Bridge模型套件

简介

快速入门

软件安装

模型支持列表

表5 大模型训练加速库

大模型训练加速库

TransformerEngineNPU

MegatronAdaptor

FSDPTurbo

MindSpeed Core

MindSpeed Ops

表6 强化学习开发套件

强化学习开发套件

MindSpeed RL

表7 参考

参考

安全声明

术语