HCCL Tiling构造函数

groupName

输入

当前通信任务所在的通信域。string类型，支持的最大长度为128字节。

opType

输入

表示通信任务类型。uint32_t类型。HCCL API提供HcclCMDType枚举定义作为该参数的取值，具体支持的通信任务类型及取值请参考表2。

algConfig

输入

通信算法配置。string类型，支持的最大长度为128字节。

针对Atlas 350 加速卡，该参数为预留字段，配置后不生效，默认仅支持FullMesh算法。FullMesh算法即NPU之间的全连接，任意两个NPU之间可以直接进行数据收发。详细的算法内容可参见集合通信算法介绍。

针对 Atlas A3 训练系列产品 / Atlas A3 推理系列产品 ，当前支持的取值为：

• "AllReduce=level0:doublering"：AllReduce通信任务。
• "AllGather=level0:doublering"：AllGather通信任务。
• "ReduceScatter=level0:doublering"：ReduceScatter通信任务。
• "AlltoAll=level0:fullmesh;level1:pairwise"：AlltoAllV和AlltoAll通信任务。
• "BatchWrite=level0:fullmesh"：BatchWrite通信任务。

针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ，该参数为预留字段，配置后不生效，默认仅支持FullMesh算法。FullMesh算法即NPU之间的全连接，任意两个NPU之间可以直接进行数据收发。详细的算法内容可参见集合通信算法介绍。

reduceType

输入

归约操作类型，仅对有归约操作的通信任务生效。uint32_t类型，取值详见表2。

dstDataType

输入

通信任务中输出数据的数据类型。uint8_t类型，该参数的取值范围请参考表1。

Atlas 350 加速卡，不同通信任务支持的输出数据类型不同，具体为：

• 对于AllReduce、AllGather、AllToAll、AllToAllV、AllToAllVWrite通信任务：输出的数据类型必须与输入的数据类型一致。各通信任务支持的输入数据类型请参考srcDataType。
• 对于ReduceScatter通信任务，当输入的数据类型为int16_t、int32_t、half、float、bfloat16_t时，输出的数据类型必须与其一致；当输入的数据类型为int8_t、hifloat8_t、fp8_e5m2_t、fp8_e4m3fn_t时，输出的数据类型必须为half、bfloat16_t、float三者之一。

Atlas A3 训练系列产品 / Atlas A3 推理系列产品 ，该参数暂不支持，配置后不生效。

Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ，该参数暂不支持，配置后不生效。

srcDataType

输入

通信任务中输入数据的数据类型。uint8_t类型，该参数的取值范围请参考表1。

Atlas 350 加速卡，不同通信任务支持的输入数据类型如下：

• AllReduce通信任务：支持的输入类型为int16_t、half、bfloat16_t、int32_t、float。
• AllGather、AllToAll、AllToAllV、AllToAllVWrite通信任务：支持的输入类型为int8_t、uint8_t、hifloat8_t、fp8_e5m2_t、fp8_e4m3fn_t、int16_t、uint16_t、half、bfloat16_t、int32_t、uint32_t、float、int64_t、double。
• ReduceScatter通信任务：支持的输入类型为int8_t、hifloat8_t、fp8_e5m2_t、fp8_e4m3fn_t、int16_t、half、bfloat16_t、int32_t、float。

Atlas A3 训练系列产品 / Atlas A3 推理系列产品 ，该参数暂不支持，配置后不生效。

针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ，该参数暂不支持，配置后不生效。

commEngine

输入

通信引擎。uint8_t类型，该参数的取值范围请参考：hcclOpExpansionMode。

HcclCMDType

通信任务类型。

针对Atlas 350 加速卡，当前支持的通信任务类型为HCCL_CMD_ALLREDUCE、HCCL_CMD_ALLGATHER、HCCL_CMD_REDUCE_SCATTER、HCCL_CMD_ALLTOALL、HCCL_CMD_ALLTOALLV、HCCL_CMD_HALF_ALLTOALLV。

针对 Atlas A3 训练系列产品 / Atlas A3 推理系列产品 ，当前支持的通信任务类型为HCCL_CMD_ALLREDUCE、HCCL_CMD_ALLGATHER、HCCL_CMD_REDUCE_SCATTER、HCCL_CMD_ALLTOALL、HCCL_CMD_ALLTOALLV、HCCL_CMD_BATCH_WRITE。

针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ，当前支持的通信任务类型为HCCL_CMD_ALLREDUCE、HCCL_CMD_ALLGATHER、HCCL_CMD_REDUCE_SCATTER、HCCL_CMD_ALLTOALL、HCCL_CMD_BATCH_WRITE。

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
20
21
22
23

enum class HcclCMDType { 
    HCCL_CMD_INVALID = 0,
    HCCL_CMD_BROADCAST = 1,
    HCCL_CMD_ALLREDUCE,
    HCCL_CMD_REDUCE,
    HCCL_CMD_SEND,
    HCCL_CMD_RECEIVE,
    HCCL_CMD_ALLGATHER,
    HCCL_CMD_REDUCE_SCATTER,
    HCCL_CMD_ALLTOALLV,
    HCCL_CMD_ALLTOALLVC,
    HCCL_CMD_ALLTOALL,
    HCCL_CMD_GATHER,
    HCCL_CMD_SCATTER,
    HCCL_CMD_BATCH_SEND_RECV,
    HCCL_CMD_BATCH_PUT,
    HCCL_CMD_BATCH_GET,
    HCCL_CMD_ALLGATHER_V,
    HCCL_CMD_REDUCE_SCATTER_V,
    HCCL_CMD_BATCH_WRITE,
    HCCL_CMD_HALF_ALLTOALLV = 20,
    HCCL_CMD_ALL
};