随着大语言模型逐步向万卡级集群部署演进,传统的集合通信库面临以下挑战: - 内置通信算法难以在多样化场景中持续保持较优性能。 - 通算融合趋势下,用户对灵活通信算子编程语义的需求日益凸显。 传统集合通信库封闭的黑盒设计限制了研究者探索新型通信原语,因此,HCCL开放了底层通信能力,提供轻量级通信算子开发接口,实现通信算子全栈可编程性,利于研究者开展通信方案创新。 HCCL通信算子开发接口具备以下关键特性: - 支持昇腾设备上的多种通信引擎,充分发挥硬件能力。 - 支持多种通信协议,包括:PCIe、HCCS、RoCE、UB。 - 通信平台能力与通信算子开发解耦,支持通信算子独立开发。 HCCL是