---
title: 读者对象
description: "本文档用于指导开发者如何使用单边通信库的C++接口实现集群间的数据传输，构建大模型推理分离式框架，从而提高大模型推理系统的吞吐性能。"
url: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmcdv2_42_02.html
sourcePath: /source/zh/canncommercial/900/API/hixlug/llmcdv2_42_02.html
indexId: 131d0080c975e39aca223105ac0b3e2c697b8ac21c4cecccc3a925b15496880459
---
# 读者对象

本文档用于指导开发者如何使用单边通信库的C++接口实现集群间的数据传输，构建大模型推理分离式框架，从而提高大模型推理系统的吞吐性能。

本文档需要读者具备以下方面的知识，会有助于更好地理解文档：

- 了解大模型的基础结构和概念
- 熟悉大模型推理的流程
- 具备C++语言程序开发能力
- 有使用大模型推理框架进行大模型推理的经验