华为计算微信公众号
昇腾AI开发者公众号
华为计算微博
华为计算今日头条
昇腾社区首页
开发者
主页
开发
文档
活动
学习
论坛
博客
开发者计划
更多
0
/100
下载
支持
积分兑换
NEW
开发者认证
训练开发者认证(工作级)
训练开发者认证(工作级)
具有训练开发经验的、计划从事训练开发工作的个人开发者
本认证涵盖:客观题综合考察考生对昇腾大模型训练架构、关键特性、训练端对端开发和调试调优方法与实现的掌握。机试题考察考生对大模型训练开发以及性能调优的实操能力。
推荐课程
MindSpeed LLM训练框架和特性介绍
本课程系统讲述了基于昇腾的大模型预训练、指令微调、偏好对齐等训练场景,并在此基础上介绍了SPTD、CP长序列、MoE等分布式并行策略和全场景的大模型性能优化,以及分布式权重转换、推理、评估等大模型开发工具链,使得学员能够了解 MindSpeed LLM 相关概念、工具和开发流程,并初步具备在不同场景下大模型训练和性能调优的基本能力。
MindSpeed LLM基于Qwen2.5-7B模型的开发实践
本课程基于Qwen2.5-7B大模型为例,端对端介绍了模型适配、权重转换、模型训练数据处理、大模型评估、在线推理方案的基本原理及实践流程,旨在为华为昇腾生态伙伴提供端到端的大语言模型训练方案。
推荐案例
MindSpeed LLM安装指南
介绍如何快速基于PyTorch框架完成MindSpeed LLM(大语言模型分布式训练套件)的安装。
MindSpeed LLM快速入门
基于Megatron训练后端的Qwen3-8B预训练和微调实践。
MindSpeed LLM模型支持列表
PyTorch框架下根据模型架构特点分为稠密模型、稀疏模型和状态空间模型三大类别,提供下载链接和仓库脚本路径。
MindSpeed LLM特性列表(基于Megatron训练后端)
MindSpeed LLM预训练/微调方案以及加速特性。
MindSpeed LLM性能调优指南
MindSpeed LLM基于Megatron训练后端的切分策略与优化特性调优思路。
MindSpeed LLM性能数据采集指南
MindSpeed LLM支持基于昇腾芯片采集profiling数据,以提供对模型运行情况的分析。
我们使用cookie来确保您的高速浏览体验。继续浏览本站,即表示您同意我们使用cookie。
查看详情