---
title: 读者对象
description: "本文档用于指导开发者如何使用单边通信库的LLM-DataDist组件的Python接口实现点对点数据传输，构建大模型推理分离式框架，从而提高大模型推理系统的吞吐性能。"
url: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmpdv2_42_02.html
sourcePath: /source/zh/canncommercial/900/API/hixlug/llmpdv2_42_02.html
indexId: 06b1323c419a298772c0cdf2d8d17f17c26fc217945b4c5788563ced9021283d59
---
# 读者对象

本文档用于指导开发者如何使用单边通信库的LLM-DataDist组件的Python接口实现点对点数据传输，构建大模型推理分离式框架，从而提高大模型推理系统的吞吐性能。

本文档需要读者具备以下方面的知识，会有助于更好地理解文档：

- 了解大模型的基础结构和概念
- 熟悉大模型推理的流程
- 具备Python语言程序开发能力
- 有使用大模型推理框架进行大模型推理的经验，比如vLLM