昇腾社区首页
中文
注册
开发者
下载
多机多卡并行推理
多机多卡并行推理
2
课程
3
案例
1
教程
1.7小时
1297
暂无评分
我要评分
本文档以DeepSeek模型为例,让开发者快速开始使用MindIE进行大模型推理流程。
开始学习
LLM多机多卡并行推理
1
多机多卡并行推理
2
基于vLLM推理部署DeepSeek
3
IRQ中断机制与中断绑核影响分析
4
基于vLLM部署DeepSeek-R1
5
昇腾集群高可靠调度实践
6
完成路径
额外的成长积分
50积分
预备知识
知识点
文档以DeepSeek模型为例,让开发者快速开始使用MindIE进行大模型推理流程。其中包含纯模型推理(MindIE-LLM)和 服务化推理(MindIE-Service)。
发布学习笔记,解答同学疑问,更有丰富奖励等你来参与
查看详情