安装CANN
前提条件
- 请参考本文档正确安装和使用CANN软件,不建议将CANN安装在共享磁盘后,通过挂载的方式使用CANN,因为CANN对文件系统有文件锁的依赖,部分共享存储不支持文件锁,可能导致任务拉起失败。
- root用户和非root用户安装CANN软件包的步骤一致,当前示例步骤以非root用户为例。
- 安装前需确保已具备Python环境及pip3,当前CANN支持Python3.7.x至3.11.4版本,若不满足可执行以下命令安装。Debian系列:
1
sudo apt-get install -y python3 python3-pip
openEuler系列:1
sudo yum install -y python3 python3-pip
若安装失败、版本不满足或未包含动态库libpython3.x.so请参考编译安装Python操作。
安装Toolkit开发套件包
CANN Toolkit开发套件包,在训练&推理&开发调试场景下安装,主要用于训练和推理业务、模型转换、算子/应用/模型的开发和编译。

安装Toolkit软件前请确保安装目录可用空间大于10G,如不满足请清理空间或更换安装目录。
- 增加对软件包的可执行权限。
1
chmod +x Ascend-cann-toolkit_<version>_linux-<arch>.run
- 安装软件包(安装命令支持--install-path=<path>等参数,具体使用方式请参见参数说明)。
1
./Ascend-cann-toolkit_<version>_linux-<arch>.run --install
执行安装命令时,会自动执行--check参数,校验软件包的一致性和完整性,出现如下回显信息,表示软件包校验成功。
1
Verifying archive integrity... 100% SHA256 checksums are OK. All good.
执行以上命令会显示华为企业业务最终用户许可协议(EULA)的条款和条件,请输入Y或y同意协议,继续安装流程。
安装完成后,若显示如下信息,则说明软件安装成功:1
xxx install success
xxx表示安装的实际软件包名。
如果用户未指定安装路径,则软件会安装到默认路径下,默认安装路径如下。root用户:“/usr/local/Ascend”,非root用户:“${HOME}/Ascend”,${HOME}为当前用户目录。
- 配置环境变量,当前以非root用户安装后的默认路径为例,请用户根据set_env.sh的实际路径执行如下命令。
1
source ${HOME}/Ascend/ascend-toolkit/set_env.sh
上述环境变量配置只在当前窗口生效,用户可以按需将以上命令写入环境变量配置文件(如.bashrc文件)。
安装NNAE深度学习引擎包
CANN NNAE深度学习引擎包,在训练&推理场景下安装,主要用于训练和推理业务。
- 增加对软件包的可执行权限。
1
chmod +x Ascend-cann-nnae_<version>_linux-<arch>.run
- 安装软件包(安装命令支持--install-path=<path>等参数,具体使用方式请参见参数说明)。
1
./Ascend-cann-nnae_<version>_linux-<arch>.run --install
执行安装命令时,会自动执行--check参数,校验软件包的一致性和完整性,出现如下回显信息,表示软件包校验成功。
1
Verifying archive integrity... 100% SHA256 checksums are OK. All good.
执行以上命令会显示华为企业业务最终用户许可协议(EULA)的条款和条件,请输入Y或y同意协议,继续安装流程。
安装完成后,若显示如下信息,则说明软件安装成功:1
xxx install success
xxx表示安装的实际软件包名。
如果用户未指定安装路径,则软件会安装到默认路径下,默认安装路径如下。root用户:“/usr/local/Ascend”,非root用户:“${HOME}/Ascend”,${HOME}为当前用户目录。
- 配置环境变量,当前以非root用户安装后的默认路径为例,请用户根据set_env.sh的实际路径执行如下命令。
1
source ${HOME}/Ascend/nnae/set_env.sh
上述环境变量配置只在当前窗口生效,用户可以按需将以上命令写入环境变量配置文件(如.bashrc文件)。
安装NNRT离线推理引擎包
CANN NNRT离线推理引擎包,在边缘推理场景下安装,仅支持离线推理,主要用于应用程序的模型推理。
- 增加对软件包的可执行权限。
1
chmod +x Ascend-cann-nnrt_<version>_linux-<arch>.run
- 安装软件包(安装命令支持--install-path=<path>等参数,具体使用方式请参见参数说明)。
1
./Ascend-cann-nnrt_<version>_linux-<arch>.run --install
执行安装命令时,会自动执行--check参数,校验软件包的一致性和完整性,出现如下回显信息,表示软件包校验成功。
1
Verifying archive integrity... 100% SHA256 checksums are OK. All good.
执行以上命令会显示华为企业业务最终用户许可协议(EULA)的条款和条件,请输入Y或y同意协议,继续安装流程。
安装完成后,若显示如下信息,则说明软件安装成功:1
xxx install success
xxx表示安装的实际软件包名。
如果用户未指定安装路径,则软件会安装到默认路径下,默认安装路径如下。root用户:“/usr/local/Ascend”,非root用户:“${HOME}/Ascend”,${HOME}为当前用户目录。
- 配置环境变量,当前以非root用户安装后的默认路径为例,请用户根据set_env.sh的实际路径执行如下命令。
1
source ${HOME}/Ascend/nnrt/set_env.sh
上述环境变量配置只在当前窗口生效,用户可以按需将以上命令写入环境变量配置文件(如.bashrc文件)。
安装Kernels算子包
CANN二进制算子包,包括单算子API执行(例如aclnn类API)动态库/静态库文件,以及kernel二进制文件。
Kernels算子包安装之前,需已安装配套版本的Toolkit并配置环境变量。
Kernels算子包安装之前,需已安装配套版本的NNAE并配置环境变量。
Kernels算子包安装之前,需已安装配套版本的NNRT并配置环境变量。
- 增加对软件包的可执行权限。
1
chmod +x Ascend-cann-kernels-<chip_type>_<version>_linux-<arch>.run
- 安装软件包。
1
./Ascend-cann-kernels-<chip_type>_<version>_linux-<arch>.run --install
如需同时安装静态库,请将--install变更为--devel参数,执行以上命令。
执行安装命令时,会自动执行--check参数,校验软件包的一致性和完整性,出现如下回显信息,表示软件包校验成功。
1
Verifying archive integrity... 100% SHA256 checksums are OK. All good.
执行以上命令会显示华为企业业务最终用户许可协议(EULA)的条款和条件,请输入Y或y同意协议,继续安装流程。
安装完成后,若显示如下信息,则说明软件安装成功:1
xxx install success
xxx表示安装的实际软件包名。
安装NNAL神经网络加速库(可选)
NNAL神经网络加速库中提供了ATB(Ascend Transformer Boost)加速库和SiP(AscendSiPBoost)信号处理加速库。
加速库安装之前,需已安装同一版本的Toolkit并配置环境变量。
加速库安装之前,需已安装同一版本的NNAE并配置环境变量。
- 增加对软件包的可执行权限。
1
chmod +x Ascend-cann-nnal_<version>_linux-<arch>.run
- 安装软件包(安装命令支持--install-path=<path>等参数,具体使用方式请参见参数说明),以下命令会同时安装SiP加速库和ATB加速库的C++库。
1
./Ascend-cann-nnal_<version>_linux-<arch>.run --install
如需单独安装SiP加速库或ATB加速库的C++库,安装时需添加--whitelist=<feature_type>参数进行指定;如需安装Python库,安装时需添加--torch_atb参数进行指定,且运行时确保已安装Kernels算子包。
执行安装命令时,会自动执行--check参数,校验软件包的一致性和完整性,出现如下回显信息,表示软件包校验成功。
1
Verifying archive integrity... 100% SHA256 checksums are OK. All good.
执行以上命令会显示华为企业业务最终用户许可协议(EULA)的条款和条件,请输入Y或y同意协议,继续安装流程。
安装完成后,若显示如下信息,则说明软件安装成功:1
xxx install success
xxx表示安装的实际软件包名。
如果用户未指定安装路径,则软件会安装到默认路径下,默认安装路径如下。root用户:“/usr/local/Ascend”,非root用户:“${HOME}/Ascend”,${HOME}为当前用户目录。
- 配置环境变量,当前以非root用户安装后的默认路径为例,请用户根据加速库对应的set_env.sh的实际路径进行替换。需注意,不支持同时配置ATB和SiP的环境变量脚本。
- ATB加速库:
1
source ${HOME}/Ascend/nnal/atb/set_env.sh
- SiP加速库:
1
source ${HOME}/Ascend/nnal/asdsip/set_env.sh
上述环境变量配置只在当前窗口生效,用户可以按需将以上命令写入环境变量配置文件(如.bashrc文件)。
- ATB加速库: