MindSpeed
训练加速库，提供丰富加速算法和模型，使能训练全流程加速。基于昇腾硬件的分布式训练加速套件，提供多维度加速算法，支持主流大语言、多模态大模型。面向大模型全流程加速，降低开发门槛，获得最优开箱性能
产品堆栈
业务系统
MindSpeed
训练加速库
'%20fill='%23FFFFFF'%20fill-opacity='0'/%3e%3ccircle%20id='椭圆形'%20cx='16.055664'%20cy='16.055542'%20r='15.555556'%20fill='%23000000'%20fill-opacity='0.800000'/%3e%3ccircle%20id='椭圆形'%20cx='16.055664'%20cy='16.055542'%20r='15.555556'%20stroke='%23000000'%20stroke-opacity='0.800000'%20stroke-width='1.000000'/%3e%3cpath%20id='path-1'%20d='M21.11%2017.34L14.29%2021.11C13.54%2021.52%2012.59%2021.27%2012.17%2020.56C12.03%2020.33%2011.96%2020.08%2011.96%2019.82L11.96%2012.29C11.96%2011.46%2012.66%2010.79%2013.51%2010.79C13.79%2010.79%2014.05%2010.86%2014.29%2010.99L21.11%2014.76C21.86%2015.17%2022.11%2016.08%2021.69%2016.79C21.55%2017.02%2021.35%2017.21%2021.11%2017.34Z'%20fill='%23FFFFFF'%20fill-opacity='1.000000'%20fill-rule='evenodd'/%3e%3c/svg%3e)
大模型套件
MindSpeed LLM
MindSpeed MM
MindSpeed RL
加速模块
MindSpeed Core
昇腾系列硬件
MindSpeed LLM
针对昇腾硬件推出的大语言模型套件。提供了开箱即用的主流开源大模型，支持全参微调、低参微调、偏好对齐等算法，提升用户在昇腾硬件上高效、便捷地开发与使用大型语言模型的能力
获取源码 开发场景
大语言模型
主流大语言模型开箱即用，数据预处理、训练、微调、偏好对齐全流程支持
多模态模型
预置多模态理解与生成领域主流模型，实现开箱即用，并提供了丰富的多模态数据处理功能以及大规模分布式训练能力，支持灵活组装搭建定制模型
关键特性
长序列分布式训练加速
MindSpeed多维优化，支持百万级长序列训练
并行优化
同时支持三种上下文并行算法兼容MoE专家并行
计算优化
支持Flash Attenting
内存优化
ALiBi、Reset Attention Mask压缩
通信优化
P2P分流并发
多模态分布式训练加速
MindSpeed多模态动态分辨率全流程优化
多模态动态分辨率优化
视图数据分桶优化
训练内存优化
动态算子下发效率优化…
多模型并行训练优化
多模型负载均衡建模分析
MoE分布式训练加速
MindSpeed负载感知、通算并行等算法提升MoE效率
MoE负载感知内存均衡算法
设定token分布不均阈值
检测阈值，自动触发重计算
通信、计算并行优化
GMM融合算子合并多专家任务
异步并行
多种Vector融合算子…
