Hccl模板参数

功能说明

创建Hccl对象时需要传入模板参数。

函数原型

Hccl类定义如下,模板参数说明见表1 Hccl类模板参数说明

1
2
template <HcclServerType serverType = HcclServerType::HCCL_SERVER_TYPE_AICPU, const auto &config = DEFAULT_CFG>
class Hccl;

参数说明

表1 Hccl类模板参数说明

参数名称

描述

serverType

支持的服务端类型。HcclServerType类型,定义如下,当前仅支持HCCL_SERVER_TYPE_AICPU。

1
2
3
4
enum HcclServerType {
HCCL_SERVER_TYPE_AICPU = 0,  // 当前仅支持AI CPU服务端
HCCL_SERVER_TYPE_END  // 预留参数,不支持使用
}

config

用于指定向服务端下发任务的核。HcclServerConfig类型,定义如下,默认值DEFAULT_CFG = {CoreType::DEFAULT, 0}。该模板参数的使用示例请参考示例3

1
2
3
4
struct HcclServerConfig {
    CoreType type;  // 向服务端下发任务的核的类型
    int64_t blockId;  // 向服务端下发任务的核的ID
};

CoreType的定义如下:

1
2
3
4
5
enum class CoreType: uint8_t {
    DEFAULT,  // 表示不指定AI Cube核或者AI Vector核
    ON_AIV,     // 表示指定为AI Vector核
    ON_AIC     // 表示指定为AI Cube核
};

返回值

支持的型号

Atlas A2 训练系列产品/Atlas 800I A2 推理产品/A200I A2 Box 异构组件

约束说明

调用示例