初级调优
Pipeline并行内存优化
Virtual pipeline并行算法
序列并行算法
MLP层融合优化
混精内存复用算法
倒三角稀疏attention优化
自适应选择重计算
父主题：
大模型算法优化