主流框架集成
场景说明
HCCL在系统中的位置如下图所示。
图1 HCCL在系统中的位置示例
AI框架主要有两种编程执行形态，单算子模式和图模式。因此HCCL也提供了单算子和图模式两种工作方式。
PyTorch和MindSpore框架网络支持HCCL的单算子和图模式两种工作方式，TensorFlow框架网络支持HCCL的图模式。
- PyTorch框架：
HCCL API已集成到PyTorch适配插件Ascend Extension for PyTorch的代码中，PyTorch用户指定使用HCCL作为分布式后端，直接使用PyTorch原生通信API，即可实现分布式能力，详细使用方法可参见《Ascend Extension for PyTorch 产品文档》。
- MindSpore框架：
HCCL API已集成到MindSpore框架代码中，MindSpore用户指定使用HCCL作为分布式后端，直接使用MindSpore原生通信API，即可实现分布式能力，详细使用方法可参见MindSpore官网。
- TensorFlow
HCCL通过TensorFlow适配插件TF Adapter对接TensorFlow框架，详细使用方法可参见《TensorFlow 1.15模型迁移指南》与《TensorFlow 2.6.5模型迁移指南》。