阅读向导

我想了解什么是单边通信库及单边通信库能做什么

概述

本章介绍了单边通信库的基本概念、作用及优势，并介绍了单边通信库的使用场景。

我想体验基于单边通信库构筑大模型推理分离式框架的开发过程

快速入门

本章介绍了利用单边通信库进行大模型推理分离式框架的整体开发流程，环境准备，并且给出了简单参考样例。

我想了解单边通信库的接口能力

功能介绍

本章介绍了单边通信库的接口功能，并给出了功能实现。

我想了解单边通信库的更多特性

专题

本章介绍了如何基于单边通信库构筑大模型推理分离式框架的高级特性，例如角色切换。

我想了解本文档涉及的一些扩展知识

附录

本章介绍了文档中提及一些扩展知识，包括基本概念、大模型推理等。

使用单边通信库进行应用开发时，遇到问题怎么办

错误码

本章介绍了接口错误码，以及原因分析和处理措施。