昇腾社区首页
中文
注册
开发者
下载
多机多卡并行推理
多机多卡并行推理
中级
1.1小时
2
暂无评分
我要评分
本认证主要考核如何使用MindIE进行大模型推理部署的流程与优化方法,旨在帮助开发者高效完成大模型多机多卡并行推理部署

认证内容

章节时长(分钟)学习目标
1. 大模型推理在昇腾上的部署6了解大模型推理在昇腾上的部署方法
2. DeepSeek 模型迁移适配10了解掌握DeepSeek 模型迁移适配
3. DeepSeek 模型并行策略选择及模型性能调优25学习DeepSeek 模型并行策略选择及模型性能调优
4. DeepSeek 量化精度及性能调优10掌握 DeepSeek 量化精度及性能调优方法
5. MTP 优化12学习掌握MTP优化方法
6. 常见问题1掌握常见问题的解决方案

认证学习

LLM多机多卡并行推理课程
本次课程以DeepSeek模型为例,介绍在昇腾平台上如何使用MindIE进行大模型推理部署的流程与优化方法,旨在帮助开发者高效完成大模型多机多卡并行推理部署。

通过本课程将掌握:

  • 1. 大模型推理在昇腾上的部署
  • 2. DeepSeek 模型迁移适配
  • 3. DeepSeek 模型并行策略选择
  • 4. DeepSeek 量化精度及性能调
  • 5. MTP 优化
  • 6. 常见问题

课程

LLM多机多卡并行推理

认证事项

  • 1.考试仅支持电脑端操作
  • 2.通过考试后需在10天内完成实名认证,逾期未完成实名认证将无法发放证书
  • 3.考试及实名认证通过后24小时,可前往个人中心-我的微认证查看证书编号或下载电子证书
  • 4.证书自颁布之日起2年内有效
  • 5.为了确保您考取的微认证真实有效,且能充分发挥其对您的积极作用,维护认证的公正性和可信度,微认证证书支持在社区侧公开查询,可前往微认证证书查询使用证书编号进行查询。感谢您选择参加本认证,祝您取得优异成绩!
  • 面向对象

    对大模型推理部署感兴趣的企业、伙伴、高校开发者

  • 您将获得

    以DeepSeek模型为例,指导开发者使用MindIE进行大模型多机多卡推理部署的流程与优化方法

  • 购前须知
    1. 考试券一经售出,不予退换货
    2. 购买后,考试券预计10分钟以内自动同步到我的券码,订单信息请在我的订单下查看
    3. 如需了解更多购买事项,请查看购前须知