特性列表 为确保MindSpeed在昇腾设备上实现大模型训练的全方位加速与优化,以下特性列表概述了关键特性与优势,旨在从计算性能、显存资源、通信性能及并行算法等多个维度,全面提升大模型训练的效率与稳定性。 表1 特性列表特性类别 特性说明 特性名称列表 并行算法优化 提供昇腾亲和的多维度并行加速 数据并行张量并行序列并行流水线并行虚拟流水并行 显存资源优化 支持高效内存算法,最大化性能无损 重计算分布式优化器显存碎片优化自适应选择重计算 通信性能优化 发挥极致通信性能,实现计算与通信并行 异步DDPTP重计算通信优化计算通信并行优化 计算性能优化 全场景高性能融合算子加速库,昇腾亲和优化 高性能融合算子: npu_dropout_add_layer_norm 父主题: 使用指导