华为计算微信公众号
昇腾AI开发者公众号
华为计算微博
华为计算今日头条
昇腾社区首页
中文
注册
登录
开发者
主页
开发
文档
活动
学习
论坛
博客
开发者计划
更多
0
/100
下载
支持
积分兑换
NEW
开发者学习路径
多机多卡并行推理
多机多卡并行推理
2
课程
3
案例
1
教程
1.7小时
1297
暂无评分
我要评分
本文档以DeepSeek模型为例,让开发者快速开始使用MindIE进行大模型推理流程。
开始学习
LLM多机多卡并行推理
1
课程
LLM多机多卡并行推理
LLM多机多卡并行推理
多机多卡并行推理
2
教程
多机多卡并行推理
多机多卡并行推理
基于vLLM推理部署DeepSeek
3
案例
DeepSeek-V3-w8a8模型基于vLLM的PD分离部
DeepSeek-V3-w8a8模型基于vLLM的PD分离部
IRQ中断机制与中断绑核影响分析
4
案例
IRQ中断机制与中断绑核影响分析
IRQ中断机制与中断绑核影响分析
基于vLLM部署DeepSeek-R1
5
案例
基于vllm部署DeepSeek-R1-0528-W8A8
基于vllm部署DeepSeek-R1-0528-W8A8
昇腾集群高可靠调度实践
6
课程
基于MindCluster的昇腾K8s集群高可靠调度实践
基于MindCluster的昇腾K8s集群高可靠调度实践
完成路径
额外的成长积分
50积分
预备知识
MindIE 介绍
知识点
文档以DeepSeek模型为例,让开发者快速开始使用MindIE进行大模型推理流程。其中包含纯模型推理(MindIE-LLM)和 服务化推理(MindIE-Service)。
帮助与反馈
昇腾论坛
在线提单反馈
帮助与反馈
昇腾论坛
在线提单反馈
发布学习笔记,解答同学疑问,更有丰富奖励等你来参与
查看详情