昇腾社区首页
中文
注册
开发者
下载

安装CANN

安装依赖

安装前需确保已具备Python环境及pip3,当前CANN支持Python3.7.x至3.11.4版本,若不满足可执行以下命令安装。

1
sudo apt-get install -y python3 python3-pip
1
sudo yum install -y python3 python3-pip

若安装失败、版本不满足或未包含动态库libpython3.x.so请参考编译安装Python操作。

安装Toolkit开发套件包

CANN Toolkit开发套件包,在训练&推理&开发调试场景下安装,主要用于训练和推理业务、模型转换、算子/应用/模型的开发和编译。

安装Toolkit软件前请确保安装目录可用空间大于10G,如不满足请清理空间或更换安装目录。

  1. 增加对软件包的可执行权限,以aarch64架构为例。
    1
    chmod +x Ascend-cann-toolkit_8.3.RC1.alpha003_linux-aarch64.run
    
  2. 安装软件包(安装命令支持--install-path=<path>等参数,具体使用方式请参见参数说明)。
    1
    ./Ascend-cann-toolkit_8.3.RC1.alpha003_linux-aarch64.run --install
    

    如果用户未指定安装路径,则软件会安装到默认路径下,默认安装路径如下。root用户:“/usr/local/Ascend”,非root用户:“${HOME}/Ascend”,${HOME}为当前用户目录。

  3. 配置环境变量,当前以非root用户安装后的默认路径为例,请用户根据set_env.sh的实际路径执行如下命令。
    1
    source ${HOME}/Ascend/ascend-toolkit/set_env.sh
    

    上述环境变量配置只在当前窗口生效,用户可以按需将以上命令写入环境变量配置文件(如.bashrc文件)。

安装NNAE深度学习引擎包

CANN NNAE深度学习引擎包,在训练&推理场景下安装,主要用于训练和推理业务。

  1. 增加对软件包的可执行权限,以aarch64架构为例。
    1
    chmod +x Ascend-cann-nnae_8.3.RC1.alpha003_linux-aarch64.run
    
  2. 安装软件包(安装命令支持--install-path=<path>等参数,具体使用方式请参见参数说明)。
    1
    ./Ascend-cann-nnae_8.3.RC1.alpha003_linux-aarch64.run --install
    

    如果用户未指定安装路径,则软件会安装到默认路径下,默认安装路径如下。root用户:“/usr/local/Ascend”,非root用户:“${HOME}/Ascend”,${HOME}为当前用户目录。

  3. 配置环境变量,当前以非root用户安装后的默认路径为例,请用户根据set_env.sh的实际路径执行如下命令。
    1
    source ${HOME}/Ascend/nnae/set_env.sh
    

    上述环境变量配置只在当前窗口生效,用户可以按需将以上命令写入环境变量配置文件(如.bashrc文件)。

安装NNRT离线推理引擎包

CANN NNRT离线推理引擎包,在边缘推理场景下安装,仅支持离线推理,主要用于应用程序的模型推理。

  1. 增加对软件包的可执行权限,以aarch64架构为例。
    1
    chmod +x Ascend-cann-nnrt_8.3.RC1.alpha003_linux-aarch64.run
    
  2. 安装软件包(安装命令支持--install-path=<path>等参数,具体使用方式请参见参数说明)。
    1
    ./Ascend-cann-nnrt_8.3.RC1.alpha003_linux-aarch64.run --install
    

    如果用户未指定安装路径,则软件会安装到默认路径下,默认安装路径如下。root用户:“/usr/local/Ascend”,非root用户:“${HOME}/Ascend”,${HOME}为当前用户目录。

  3. 配置环境变量,当前以非root用户安装后的默认路径为例,请用户根据set_env.sh的实际路径执行如下命令。
    1
    source ${HOME}/Ascend/nnrt/set_env.sh 
    

    上述环境变量配置只在当前窗口生效,用户可以按需将以上命令写入环境变量配置文件(如.bashrc文件)。

安装Kernels算子包

CANN二进制算子包,包括单算子API执行(例如aclnn类API)动态库/静态库文件,以及kernel二进制文件。

Kernels算子包安装之前,需已安装配套版本的Toolkit并配置环境变量。

Kernels算子包安装之前,需已安装配套版本的NNAE并配置环境变量。

Kernels算子包安装之前,需已安装配套版本的NNRT并配置环境变量。

表1 安装Kernels算子包

产品类型

架构

安装命令

Atlas A3 系列产品

aarch

1
2
chmod +x Atlas-A3-cann-kernels_8.3.RC1.alpha003_linux-aarch64.run
./Atlas-A3-cann-kernels_8.3.RC1.alpha003_linux-aarch64.run --install

x86_64

1
2
chmod +x Atlas-A3-cann-kernels_8.3.RC1.alpha003_linux-x86_64.run
./Atlas-A3-cann-kernels_8.3.RC1.alpha003_linux-x86_64.run --install

Atlas A2 系列产品

aarch

1
2
chmod +x Ascend-cann-kernels-910b_8.3.RC1.alpha003_linux-aarch64.run
./Ascend-cann-kernels-910b_8.3.RC1.alpha003_linux-aarch64.run --install

x86_64

1
2
chmod +x Ascend-cann-kernels-910b_8.3.RC1.alpha003_linux-x86_64.run
./Ascend-cann-kernels-910b_8.3.RC1.alpha003_linux-x86_64.run --install

Atlas 训练系列产品

aarch

1
2
chmod +x Ascend-cann-kernels-910_8.3.RC1.alpha003_linux-aarch64.run
./Ascend-cann-kernels-910_8.3.RC1.alpha003_linux-aarch64.run --install

x86_64

1
2
chmod +x Ascend-cann-kernels-910_8.3.RC1.alpha003_linux-x86_64.run
./Ascend-cann-kernels-910_8.3.RC1.alpha003_linux-x86_64.run --install

Atlas 推理系列产品

aarch

1
2
chmod +x Ascend-cann-kernels-310p_8.3.RC1.alpha003_linux-aarch64.run
./Ascend-cann-kernels-310p_8.3.RC1.alpha003_linux-aarch64.run --install

x86_64

1
2
chmod +x Ascend-cann-kernels-310p_8.3.RC1.alpha003_linux-x86_64.run
./Ascend-cann-kernels-310p_8.3.RC1.alpha003_linux-x86_64.run --install

Atlas 200I/500 A2 推理产品

aarch

1
2
chmod +x Ascend-cann-kernels-310b_8.3.RC1.alpha003_linux-aarch64.run
./Ascend-cann-kernels-310b_8.3.RC1.alpha003_linux-aarch64.run --install

x86_64

1
2
chmod +x Ascend-cann-kernels-310b_8.3.RC1.alpha003_linux-x86_64.run
./Ascend-cann-kernels-310b_8.3.RC1.alpha003_linux-x86_64.run --install

如需同时安装静态库,请将--install变更为--devel参数,执行以上命令。

安装NNAL神经网络加速库(可选)

NNAL神经网络加速库中提供了ATB(Ascend Transformer Boost)加速库和SiP(AscendSiPBoost)信号处理加速库。

加速库安装之前,需已安装同一版本的Toolkit并配置环境变量。

加速库安装之前,需已安装同一版本的NNAE并配置环境变量。

  1. 增加对软件包的可执行权限,以aarch64架构为例。
    1
    chmod +x Ascend-cann-nnal_8.3.RC1.alpha003_linux-aarch64.run
    
  2. 安装软件包(安装命令支持--install-path=<path>等参数,具体使用方式请参见参数说明)。
    1
    ./Ascend-cann-nnal_8.3.RC1.alpha003_linux-aarch64.run --install
    

    如果用户未指定安装路径,则软件会安装到默认路径下,默认安装路径如下。root用户:“/usr/local/Ascend”,非root用户:“${HOME}/Ascend”,${HOME}为当前用户目录。

  3. 配置环境变量,当前以非root用户安装后的默认路径为例,请用户根据加速库对应的set_env.sh的实际路径进行替换。
    需注意,不支持同时配置ATB和SiP的环境变量脚本。
    • ATB加速库:
      1
      source ${HOME}/Ascend/nnal/atb/set_env.sh
      
    • SiP加速库:
      1
      source ${HOME}/Ascend/nnal/asdsip/set_env.sh
      

    上述环境变量配置只在当前窗口生效,用户可以按需将以上命令写入环境变量配置文件(如.bashrc文件)。