在算子实现章节已经介绍了kernel侧算子核心的实现方法,本章节侧重于介绍接入CANN框架时编程模式和API的使用。
集合通信库HCCL(Huawei Collective Communication Library)是基于昇腾硬件的高性能集合通信库,为计算集群提供高性能、高可靠的通信方案。 - 提供单机、多机环境中的高性能集合通信和点对点通信。 - 支持AllReduce、Broadcast、AllGather、ReduceScatter、AlltoAll等集合通信原语,以及Send、Receive等点对点通信原语。 - 支持Ring、Mesh、Recursive Halving-Doubling(RHD)等通信算法。 - 支持HCCS、RoCE、PCIe、UB(Unified Bus)等高速通信链路。 -