--- title: AllReduce description: "| 产品 | 是否支持 |" url: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendcopapi/atlasascendc_api_07_0872.html sourcePath: /source/zh/canncommercial/900/API/ascendcopapi/atlasascendc_api_07_0872.html indexId: 4de172aa053c265098c43b1d3b720a3bd4f23b07afae68c2b26f9c28dd0170fe76 --- # AllReduce #### 产品支持情况 | 产品 | 是否支持 | | --- | --- | | Atlas 350 加速卡 | √ | | Atlas A3 训练系列产品 / Atlas A3 推理系列产品 | √ | | Atlas A2 训练系列产品 / Atlas A2 推理系列产品 | √ | | Atlas 200I/500 A2 推理产品 | x | | Atlas 推理系列产品 AI Core | x | | Atlas 推理系列产品 Vector Core | x | | Atlas 训练系列产品 | x | #### 功能说明 集合通信算子AllReduce的任务下发接口，返回该任务的标识handleId给用户。AllReduce功能为：将通信域内所有节点的同名张量进行reduce操作后，再把结果发送到所有节点的输出buffer。 #### 函数原型 ``` template __aicore__ inline HcclHandle AllReduce(GM_ADDR sendBuf, GM_ADDR recvBuf, uint64_t count, HcclDataType dataType, HcclReduceOp op, uint8_t repeat = 1) ``` #### 参数说明 **表1 模板参数说明** | 参数名 | 输入/输出 | 描述 | | --- | --- | --- | | commit | 输入 | bool类型。参数取值如下： true：在调用Prepare接口时，Commit同步通知服务端可以执行该通信任务。 false：在调用Prepare接口时，不通知服务端执行该通信任务。 | **表2 接口参数说明** | 参数名 | 输入/输出 | 描述 | | --- | --- | --- | | sendBuf | 输入 | 源数据buffer地址。 | | recvBuf | 输出 | 目的数据buffer地址，集合通信结果输出到此buffer中。 | | count | 输入 | 参与AllReduce操作的数据个数，比如只有一个int32数据参与，则count=1。 | | dataType | 输入 | AllReduce操作的数据类型，目前支持float、half（即float16）、int8\_t、int16\_t、int32\_t、bfloat16\_t数据类型，即支持取值为HCCL\_DATA\_TYPE\_FP32、HCCL\_DATA\_TYPE\_FP16、HCCL\_DATA\_TYPE\_INT8、HCCL\_DATA\_TYPE\_INT16、HCCL\_DATA\_TYPE\_INT32、HCCL\_DATA\_TYPE\_BFP16。HcclDataType数据类型的介绍请参考表1。 | | op | 输入 | Reduce的操作类型，目前支持sum、max、min操作类型，即支持取值为HCCL\_REDUCE\_SUM、HCCL\_REDUCE\_MAX、HCCL\_REDUCE\_MIN。HcclReduceOp数据类型的介绍请参考表2。 | | repeat | 输入 | 一次下发的AllReduce通信任务个数。repeat取值≥1，默认值为1。当repeat>1时，每个AllReduce任务的sendBuf和recvBuf地址由服务端自动算出，计算公式如下： sendBuf[i] = sendBuf + count\* sizeof(datatype) \* i, i∈[0, repeat) recvBuf[i] = recvBuf + count\* sizeof(datatype) \* i, i∈[0, repeat) 注意：当设置repeat>1时，须与count参数配合使用，规划通信数据地址。 | 图1 AllReduce三轮切分通信示例 #### 返回值说明 返回该任务的标识handleId，handleId大于等于0。调用失败时，返回 -1。 #### 约束说明 - 调用本接口前确保已调用过 InitV2 和 SetCcTilingV2 接口。 - 若HCCL对象的 config模板参数 未指定下发通信任务的核，该接口只能在AIC核或者AIV核两者之一上调用。若HCCL对象的 config模板参数 中指定了下发通信任务的核，则该接口可以在AIC核和AIV核上同时调用，接口内部会根据指定的核的类型，只在AIC核、AIV核二者之一下发该通信任务。 - 对于Atlas A2 训练系列产品 / Atlas A2 推理系列产品，一个通信域内，所有Prepare接口的总调用次数不能超过63。 - 对于Atlas A3 训练系列产品 / Atlas A3 推理系列产品，一个通信域内，所有Prepare接口和InterHcclGroupSync接口的总调用次数不能超过63。 - 对于Atlas 350 加速卡，一个通信域内，所有Prepare接口的总调用次数不能超过63。 - 对于Atlas 350 加速卡，通信服务端为CCU时，单次最大通信数据量不能超过256M。 #### 调用示例 - 非多轮切分场景 如下图所示，4张卡上均有count=300个float16数据，每张卡从xGM内存中获取到本卡数据，各卡的数据进行reduce sum计算后，将结果输出到各卡的yGM。 图2 非多轮切分场景下4卡AllReduce通信 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 extern "C" __global__ __aicore__ void all_reduce_custom(GM_ADDR xGM, GM_ADDR yGM, GM_ADDR workspaceGM, GM_ADDR tilingGM) { auto sendBuf = xGM; // xGM为AllReduce的输入GM地址 auto recvBuf = yGM; // yGM为AllReduce的输出GM地址 uint64_t sendCount = 300; // 每张卡上均有300个float16的数据 HcclReduceOp reduceOp = HcclReduceOp::HCCL_REDUCE_SUM; REGISTER_TILING_DEFAULT(AllReduceCustomTilingData); //AllReduceCustomTilingData为对应算子头文件定义的结构体 GET_TILING_DATA_WITH_STRUCT(AllReduceCustomTilingData, tilingData, tilingGM); Hccl hccl; GM_ADDR contextGM = AscendC::GetHcclContext<0>(); // AscendC自定义算子kernel中，通过此方式获取HCCL context if (AscendC::g_coreType == AIV) { // 指定AIV核通信 hccl.InitV2(contextGM, &tilingData); auto ret = hccl.SetCcTilingV2(offsetof(AllReduceCustomTilingData, mc2CcTiling)); if (ret) { return; } HcclHandle handleId1 = hccl.AllReduce(sendBuf, recvBuf, sendCount, HcclDataType::HCCL_DATA_TYPE_FP16, reduceOp); hccl.Wait(handleId1); AscendC::SyncAll(); // 全AIV核同步，防止0核执行过快，提前调用hccl.Finalize()接口，导致其他核Wait卡死 hccl.Finalize(); } } - 多轮切分场景 使能多轮切分，等效处理上述非多轮切分示例的通信。如下图所示，每张卡的300个float16数据，被切分为2个首块数据，1个尾块数据。每个首块的数据量tileLen为128个float16数据，尾块的数据量tailLen为44个float16数据。在算子内部实现时，需要对切分后的数据分3轮进行AllReduce通信任务，将等效上述非多轮切分的通信结果。 图3 各卡数据切分示意图 具体实现为，第1轮通信，每个rank上0-0\1-0\2-0\3-0数据块进行AllReduce处理。第2轮通信，每个rank上0-1\1-1\2-1\3-1数据块进行AllReduce处理。第3轮通信，每个rank上0-2\1-2\2-2\3-2数据块进行AllReduce处理，图示及代码示例如下。 图4 4卡AllReduce示意图 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 extern "C" __global__ __aicore__ void all_reduce_custom(GM_ADDR xGM, GM_ADDR yGM, GM_ADDR workspaceGM, GM_ADDR tilingGM) { constexpr uint32_t tileNum = 2U; // 首块数量 constexpr uint64_t tileLen = 128U; // 首块数据个数 constexpr uint32_t tailNum = 1U; // 尾块数量 constexpr uint64_t tailLen = 44U; // 尾块数据个数 auto sendBuf = xGM; // xGM为AllReduce的输入GM地址 auto recvBuf = yGM; // yGM为AllReduce的输出GM地址 HcclReduceOp reduceOp = HcclReduceOp::HCCL_REDUCE_SUM; REGISTER_TILING_DEFAULT(AllReduceCustomTilingData); //AllReduceCustomTilingData为对应算子头文件定义的结构体 GET_TILING_DATA_WITH_STRUCT(AllReduceCustomTilingData, tilingData, tilingGM); Hccl hccl; GM_ADDR contextGM = AscendC::GetHcclContext<0>(); // AscendC自定义算子kernel中，通过此方式获取HCCL context if (AscendC::g_coreType == AIV) { // 指定AIV核通信 hccl.InitV2(contextGM, &tilingData); auto ret = hccl.SetCcTilingV2(offsetof(AllReduceCustomTilingData, mc2CcTiling)); if (ret != HCCL_SUCCESS) { return; } // 2个首块处理 constexpr uint32_t tileRepeat = tileNum; // 除了sendBuf和recvBuf入参不同，对2个首块处理的其余参数相同。故使用repeat=2，第2个首块AllReduce任务的sendBuf、recvBuf将由API内部自行更新 HcclHandle handleId1 = hccl.AllReduce(sendBuf, recvBuf, tileLen, HcclDataType::HCCL_DATA_TYPE_FP16, reduceOp, tileRepeat); // 1个尾块处理 constexpr uint32_t kSizeOfFloat16 = 2U; sendBuf += tileLen * tileNum * kSizeOfFloat16; recvBuf += tileLen * tileNum * kSizeOfFloat16; constexpr uint32_t tailRepeat = tailNum; HcclHandle handleId2 = hccl.AllReduce(sendBuf, recvBuf, tailLen, HcclDataType::HCCL_DATA_TYPE_FP16, reduceOp, tailRepeat); for (uint8_t i=0; i(); // 全AIV核同步，防止0核执行过快，提前调用hccl.Finalize()接口，导致其他核Wait卡死 hccl.Finalize(); } }