--aicore_num
产品支持情况
产品 |
是否支持 |
---|---|
√ |
|
√ |
|
x |
|
x |
|
x |
|
x |
功能说明
用于配置模型编译时使用的AI Core核数和Vector Core核数。
关联参数
无。
参数取值
参数值:"整数1|整数2",中间使用“|”分割,整数1表示算子编译时使用的AI Core核数,整数2表示算子编译时使用的Vector Core核数。
- 若昇腾AI处理器上同时存在AI Core与Vector Core,整数1与整数2都需要大于0,小于等于昇腾AI处理器包含的最大AI Core和Vector Core数量。
- 若昇腾AI处理器上仅存在AI Core,不存在Vector Core,仅需配置整数1,配置格式为:"整数1|",即使配置了整数2,也不会生效。
参数值约束:
- 不同产品型号昇腾AI处理器包含的最大AI Core与Vector Core的数量可从"${INSTALL_DIR}/<arch>-linux/data/platform_config/xxx.ini"文件查看,如下所示,说明昇腾AI处理器上存在32个AI Core,不存在Vector Core。
[SoCInfo] ai_core_cnt=32 vector_core_cnt=0
其中,${INSTALL_DIR}请替换为CANN软件安装后文件存储路径。若安装的Ascend-cann-toolkit软件包,以root安装举例,则安装后文件存储路径为:/usr/local/Ascend/ascend-toolkit/latest。,<arch>表示具体操作系统架构,xxx请根据实际产品型号进行选择。
- 如果配置该参数的同时启用了算子编译缓存功能(--op_compiler_cache_mode参数配置为“enable”或者“force”),此参数仅在首次编译时生效。若您想在非首次编译时生效该参数,需要清理编译磁盘的缓存。
推荐配置及收益
无。
示例
--aicore_num="4|2"
依赖约束
无。
父主题: 目标芯片选项