安装CANN
安装依赖
安装前需确保已具备Python环境及pip3,当前CANN支持Python3.7.x至3.11.4版本,若不满足可执行以下命令安装。
1 | sudo apt-get install -y python3 python3-pip |
1 | sudo yum install -y python3 python3-pip |
若安装失败、版本不满足或未包含动态库libpython3.x.so请参考编译安装Python操作。
安装Toolkit开发套件包
CANN Toolkit开发套件包,在训练&推理&开发调试场景下安装,主要用于训练和推理业务、模型转换、算子/应用/模型的开发和编译。

安装Toolkit软件前请确保安装目录可用空间大于10G,如不满足请清理空间或更换安装目录。
- 增加对软件包的可执行权限,以aarch64架构为例。
1
chmod +x Ascend-cann-toolkit_8.3.RC1.alpha003_linux-aarch64.run
- 安装软件包(安装命令支持--install-path=<path>等参数,具体使用方式请参见参数说明)。
1
./Ascend-cann-toolkit_8.3.RC1.alpha003_linux-aarch64.run --install
如果用户未指定安装路径,则软件会安装到默认路径下,默认安装路径如下。root用户:“/usr/local/Ascend”,非root用户:“${HOME}/Ascend”,${HOME}为当前用户目录。
- 配置环境变量,当前以非root用户安装后的默认路径为例,请用户根据set_env.sh的实际路径执行如下命令。
1
source ${HOME}/Ascend/ascend-toolkit/set_env.sh
上述环境变量配置只在当前窗口生效,用户可以按需将以上命令写入环境变量配置文件(如.bashrc文件)。
安装NNAE深度学习引擎包
CANN NNAE深度学习引擎包,在训练&推理场景下安装,主要用于训练和推理业务。
- 增加对软件包的可执行权限,以aarch64架构为例。
1
chmod +x Ascend-cann-nnae_8.3.RC1.alpha003_linux-aarch64.run
- 安装软件包(安装命令支持--install-path=<path>等参数,具体使用方式请参见参数说明)。
1
./Ascend-cann-nnae_8.3.RC1.alpha003_linux-aarch64.run --install
如果用户未指定安装路径,则软件会安装到默认路径下,默认安装路径如下。root用户:“/usr/local/Ascend”,非root用户:“${HOME}/Ascend”,${HOME}为当前用户目录。
- 配置环境变量,当前以非root用户安装后的默认路径为例,请用户根据set_env.sh的实际路径执行如下命令。
1
source ${HOME}/Ascend/nnae/set_env.sh
上述环境变量配置只在当前窗口生效,用户可以按需将以上命令写入环境变量配置文件(如.bashrc文件)。
安装NNRT离线推理引擎包
CANN NNRT离线推理引擎包,在边缘推理场景下安装,仅支持离线推理,主要用于应用程序的模型推理。
- 增加对软件包的可执行权限,以aarch64架构为例。
1
chmod +x Ascend-cann-nnrt_8.3.RC1.alpha003_linux-aarch64.run
- 安装软件包(安装命令支持--install-path=<path>等参数,具体使用方式请参见参数说明)。
1
./Ascend-cann-nnrt_8.3.RC1.alpha003_linux-aarch64.run --install
如果用户未指定安装路径,则软件会安装到默认路径下,默认安装路径如下。root用户:“/usr/local/Ascend”,非root用户:“${HOME}/Ascend”,${HOME}为当前用户目录。
- 配置环境变量,当前以非root用户安装后的默认路径为例,请用户根据set_env.sh的实际路径执行如下命令。
1
source ${HOME}/Ascend/nnrt/set_env.sh
上述环境变量配置只在当前窗口生效,用户可以按需将以上命令写入环境变量配置文件(如.bashrc文件)。
安装Kernels算子包
CANN二进制算子包,包括单算子API执行(例如aclnn类API)动态库/静态库文件,以及kernel二进制文件。
Kernels算子包安装之前,需已安装配套版本的Toolkit并配置环境变量。
Kernels算子包安装之前,需已安装配套版本的NNAE并配置环境变量。
Kernels算子包安装之前,需已安装配套版本的NNRT并配置环境变量。
产品类型 |
架构 |
安装命令 |
||
---|---|---|---|---|
Atlas A3 系列产品 |
aarch |
|
||
x86_64 |
|
|||
Atlas A2 系列产品 |
aarch |
|
||
x86_64 |
|
|||
aarch |
|
|||
x86_64 |
|
|||
aarch |
|
|||
x86_64 |
|
|||
aarch |
|
|||
x86_64 |
|
如需同时安装静态库,请将--install变更为--devel参数,执行以上命令。
安装NNAL神经网络加速库(可选)
NNAL神经网络加速库中提供了ATB(Ascend Transformer Boost)加速库和SiP(AscendSiPBoost)信号处理加速库。
加速库安装之前,需已安装同一版本的Toolkit并配置环境变量。
加速库安装之前,需已安装同一版本的NNAE并配置环境变量。
- 增加对软件包的可执行权限,以aarch64架构为例。
1
chmod +x Ascend-cann-nnal_8.3.RC1.alpha003_linux-aarch64.run
- 安装软件包(安装命令支持--install-path=<path>等参数,具体使用方式请参见参数说明)。
1
./Ascend-cann-nnal_8.3.RC1.alpha003_linux-aarch64.run --install
如果用户未指定安装路径,则软件会安装到默认路径下,默认安装路径如下。root用户:“/usr/local/Ascend”,非root用户:“${HOME}/Ascend”,${HOME}为当前用户目录。
- 配置环境变量,当前以非root用户安装后的默认路径为例,请用户根据加速库对应的set_env.sh的实际路径进行替换。需注意,不支持同时配置ATB和SiP的环境变量脚本。
- ATB加速库:
1
source ${HOME}/Ascend/nnal/atb/set_env.sh
- SiP加速库:
1
source ${HOME}/Ascend/nnal/asdsip/set_env.sh
上述环境变量配置只在当前窗口生效,用户可以按需将以上命令写入环境变量配置文件(如.bashrc文件)。
- ATB加速库: