Hccl模板参数

Atlas A3 训练系列产品/Atlas A3 推理系列产品

√

Atlas A2 训练系列产品/Atlas 800I A2 推理产品/A200I A2 Box 异构组件

√

Atlas 200I/500 A2 推理产品

x

Atlas 推理系列产品AI Core

x

Atlas 推理系列产品Vector Core

x

Atlas 训练系列产品

x

serverType

支持的服务端类型。HcclServerType类型，定义如下。

对于Atlas A2 训练系列产品/Atlas 800I A2 推理产品/A200I A2 Box 异构组件，当前仅支持HCCL_SERVER_TYPE_AICPU。

对于Atlas A3 训练系列产品/Atlas A3 推理系列产品，当前仅支持HCCL_SERVER_TYPE_AICPU。

1
2
3
4

enum HcclServerType {
HCCL_SERVER_TYPE_AICPU = 0,
HCCL_SERVER_TYPE_END  // 预留参数，不支持使用
}

config

用于指定向服务端下发任务的核。HcclServerConfig类型，定义如下，默认值DEFAULT_CFG = {CoreType::DEFAULT, 0}。

1
2
3
4

struct HcclServerConfig {
    CoreType type;  // 向服务端下发任务的核的类型
    int64_t blockId;  // 向服务端下发任务的核的ID
};

CoreType的定义如下：

1
2
3
4
5

enum class CoreType: uint8_t {
    DEFAULT,  // 表示不指定AI Cube核或者AI Vector核
    ON_AIV,     // 表示指定为AI Vector核
    ON_AIC     // 表示指定为AI Cube核
};