aclrtDevAttr
定义
typedef enum { ACL_DEV_ATTR_AICPU_CORE_NUM = 1, ACL_DEV_ATTR_AICORE_CORE_NUM = 101, ACL_DEV_ATTR_VECTOR_CORE_NUM = 201, } aclrtDevAttr;
枚举项 |
说明 |
---|---|
ACL_DEV_ATTR_AICPU_CORE_NUM |
AI CPU数量。 |
ACL_DEV_ATTR_AICORE_CORE_NUM |
AI Core数量。 |
ACL_DEV_ATTR_VECTOR_CORE_NUM |
Vector Core数量。 |
参考信息
为便于理解AI Core、Cube Core、Vector Core的关系,此处先明确Core的定义,Core是指拥有独立Scalar计算单元的一个计算核,通常Scalar计算单元承担了一个计算核的SIMD(单指令多数据,Single Instruction Multiple Data)指令发射等功能,所以我们也通常也把这个Scalar计算单元称为核内的调度单元。不同产品上的AI数据处理核心单元不同,当前分为以下几类:
- 当AI数据处理核心单元是AI Core:
- 在AI Core内,Cube和Vector共用一个Scalar调度单元,例如
Atlas 训练系列产品 。 - 在AI Core内,Cube和Vector都有各自的Scalar调度单元,因此又被称为Cube Core、Vector Core。这时,一个Cube Core和一组Vector Core被定义为一个AI Core,AI Core数量通常是以多少个Cube Core为基准计算的,例如
Atlas A2 训练系列产品 /Atlas 800I A2 推理产品 /A200I A2 Box 异构组件。
- 在AI Core内,Cube和Vector共用一个Scalar调度单元,例如
- 当AI数据处理核心单元处理是AI Core以及单独的Vector Core:AI Core和Vector Core都拥有独立的Scalar调度单元,例如
Atlas 推理系列产品 。
父主题: 数据类型及其操作接口