---
title: 多机多卡并行推理-昇腾社区
description: 本文档以DeepSeek模型为例，让开发者快速开始使用MindIE进行大模型推理流程。
keywords: 多机多卡并行推理,昇腾社区,DeepSeek,MindIE,LLM,Service,School,Magnetic
url: https://www.hiascend.com/edu/growth/details/4e9c703842904f28b1289ae3e259e94a
section: (其他)
---

# 多机多卡并行推理-昇腾社区

URL: https://www.hiascend.com/edu/growth/details/4e9c703842904f28b1289ae3e259e94a
描述: 本文档以DeepSeek模型为例，让开发者快速开始使用MindIE进行大模型推理流程。
关键词: 多机多卡并行推理,昇腾社区,DeepSeek,MindIE,LLM,Service,School,Magnetic

开发者学习路径 [了解详情](https://www.hiascend.com/edu/growth)

多机多卡并行推理

多机多卡并行推理

2

课程

3

案例

1

教程

1.7小时

140

本文档以DeepSeek模型为例，让开发者快速开始使用MindIE进行大模型推理流程。

登录查看学习进度

开始学习

LLM多机多卡并行推理

1

课程

LLM多机多卡并行推理

LLM多机多卡并行推理

多机多卡并行推理

2

教程

多机多卡并行推理

多机多卡并行推理

基于vLLM推理部署DeepSeek

3

案例

DeepSeek-V3-w8a8模型基于vLLM的PD分离部

DeepSeek-V3-w8a8模型基于vLLM的PD分离部

IRQ中断机制与中断绑核影响分析

4

案例

IRQ中断机制与中断绑核影响分析

IRQ中断机制与中断绑核影响分析

基于vLLM部署DeepSeek-R1

5

案例

基于vllm部署DeepSeek-R1-0528-W8A8

基于vllm部署DeepSeek-R1-0528-W8A8

昇腾集群高可靠调度实践

6

课程

基于MindCluster的昇腾K8s集群高可靠调度实践

基于MindCluster的昇腾K8s集群高可靠调度实践

完成路径

额外的成长积分

50积分

预备知识

MindIE 介绍 [了解详情](https://www.hiascend.com/developer/courses/detail/1915041447188799489)

知识点

文档以DeepSeek模型为例，让开发者快速开始使用MindIE进行大模型推理流程。其中包含纯模型推理（MindIE-LLM）和 服务化推理（MindIE-Service)。

帮助与反馈

昇腾论坛 [了解详情](https://www.hiascend.com/forum/)在线提单反馈 [了解详情](https://www.hiascend.com/feedback/add)

帮助与反馈

昇腾论坛 [了解详情](https://www.hiascend.com/forum/)在线提单反馈 [了解详情](https://www.hiascend.com/feedback/add)

发布学习笔记，解答同学疑问，更有丰富奖励等你来参与

查看详情 [了解详情](https://www.hiascend.com/developer/School-Magnetic-Space)
