Developers
Download
[object Object]

单边通信库面向集群场景提供简单、可靠、高效的点对点数据传输能力,并通过简易API开放给用户,在多AI应用和多传输链路之间建立了桥梁。可用于构建大模型PD分离、RL后训练参数切换、模型参数缓存等多种业务场景。 [object Object]本文档提供单边通信库的开发指南,用于指导开发者如何使用单边通信库接口实现集群间的数据传输,构建大模型推理分离式框架。

表1 使用场景介绍

[object Object]undefined