昇腾社区首页
中文
注册
开发者
下载
多机多卡并行推理
多机多卡并行推理
3
案例
1
教程
1.7小时
1153
暂无评分
我要评分
本文档以DeepSeek模型为例,让开发者快速开始使用MindIE进行大模型推理流程。
开始学习
多机多卡并行推理
1
基于vLLM推理部署DeepSeek
2
IRQ中断机制与中断绑核影响分析
3
基于vLLM部署DeepSeek-R1
4
完成路径
额外的成长积分
50积分
预备知识
知识点
文档以DeepSeek模型为例,让开发者快速开始使用MindIE进行大模型推理流程。其中包含纯模型推理(MindIE-LLM)和 服务化推理(MindIE-Service)。
发布学习笔记,解答同学疑问,更有丰富奖励等你来参与
查看详情