昇腾社区首页
中文
注册

安装CANN

前提条件

  • 请参考本文档正确安装和使用CANN软件,不建议将CANN安装在共享磁盘后,通过挂载的方式使用CANN,因为CANN对文件系统有文件锁的依赖,部分共享存储不支持文件锁,可能导致任务拉起失败。
  • root用户和非root用户安装CANN软件包的步骤一致,当前示例步骤以非root用户为例。
  • 安装前需确保已具备Python环境及pip3,当前CANN支持Python3.7.x至3.11.4版本,若不满足可执行以下命令安装。
    Debian系列:
    1
    sudo apt-get install -y python3 python3-pip
    
    openEuler系列:
    1
    sudo yum install -y python3 python3-pip
    

    若安装失败、版本不满足或未包含动态库libpython3.x.so请参考编译安装Python操作。

安装Toolkit开发套件包

CANN Toolkit开发套件包,在训练&推理&开发调试场景下安装,主要用于训练和推理业务、模型转换、算子/应用/模型的开发和编译。

安装Toolkit软件前请确保安装目录可用空间大于10G,如不满足请清理空间或更换安装目录。

  1. 增加对软件包的可执行权限。
    1
    chmod +x Ascend-cann-toolkit_<version>_linux-<arch>.run
    
  2. 安装软件包(安装命令支持--install-path=<path>等参数,具体使用方式请参见参数说明)。
    1
    ./Ascend-cann-toolkit_<version>_linux-<arch>.run --install
    

    执行安装命令时,会自动执行--check参数,校验软件包的一致性和完整性,出现如下回显信息,表示软件包校验成功。

    1
    Verifying archive integrity...  100%   SHA256 checksums are OK. All good.
    

    执行以上命令会显示华为企业业务最终用户许可协议(EULA)的条款和条件,请输入Yy同意协议,继续安装流程。

    安装完成后,若显示如下信息,则说明软件安装成功:
    1
    xxx install success
    

    xxx表示安装的实际软件包名。

    如果用户未指定安装路径,则软件会安装到默认路径下,默认安装路径如下。root用户:“/usr/local/Ascend”,非root用户:“${HOME}/Ascend”,${HOME}为当前用户目录。

  3. 配置环境变量,当前以非root用户安装后的默认路径为例,请用户根据set_env.sh的实际路径执行如下命令。
    1
    source ${HOME}/Ascend/ascend-toolkit/set_env.sh
    

    上述环境变量配置只在当前窗口生效,用户可以按需将以上命令写入环境变量配置文件(如.bashrc文件)。

安装NNAE深度学习引擎包

CANN NNAE深度学习引擎包,在训练&推理场景下安装,主要用于训练和推理业务。

  1. 增加对软件包的可执行权限。
    1
    chmod +x Ascend-cann-nnae_<version>_linux-<arch>.run
    
  2. 安装软件包(安装命令支持--install-path=<path>等参数,具体使用方式请参见参数说明)。
    1
    ./Ascend-cann-nnae_<version>_linux-<arch>.run --install
    

    执行安装命令时,会自动执行--check参数,校验软件包的一致性和完整性,出现如下回显信息,表示软件包校验成功。

    1
    Verifying archive integrity...  100%   SHA256 checksums are OK. All good.
    

    执行以上命令会显示华为企业业务最终用户许可协议(EULA)的条款和条件,请输入Yy同意协议,继续安装流程。

    安装完成后,若显示如下信息,则说明软件安装成功:
    1
    xxx install success
    

    xxx表示安装的实际软件包名。

    如果用户未指定安装路径,则软件会安装到默认路径下,默认安装路径如下。root用户:“/usr/local/Ascend”,非root用户:“${HOME}/Ascend”,${HOME}为当前用户目录。

  3. 配置环境变量,当前以非root用户安装后的默认路径为例,请用户根据set_env.sh的实际路径执行如下命令。
    1
    source ${HOME}/Ascend/nnae/set_env.sh
    

    上述环境变量配置只在当前窗口生效,用户可以按需将以上命令写入环境变量配置文件(如.bashrc文件)。

安装NNRT离线推理引擎包

CANN NNRT离线推理引擎包,在边缘推理场景下安装,仅支持离线推理,主要用于应用程序的模型推理。

  1. 增加对软件包的可执行权限。
    1
    chmod +x Ascend-cann-nnrt_<version>_linux-<arch>.run
    
  2. 安装软件包(安装命令支持--install-path=<path>等参数,具体使用方式请参见参数说明)。
    1
    ./Ascend-cann-nnrt_<version>_linux-<arch>.run --install
    

    执行安装命令时,会自动执行--check参数,校验软件包的一致性和完整性,出现如下回显信息,表示软件包校验成功。

    1
    Verifying archive integrity...  100%   SHA256 checksums are OK. All good.
    

    执行以上命令会显示华为企业业务最终用户许可协议(EULA)的条款和条件,请输入Yy同意协议,继续安装流程。

    安装完成后,若显示如下信息,则说明软件安装成功:
    1
    xxx install success
    

    xxx表示安装的实际软件包名。

    如果用户未指定安装路径,则软件会安装到默认路径下,默认安装路径如下。root用户:“/usr/local/Ascend”,非root用户:“${HOME}/Ascend”,${HOME}为当前用户目录。

  3. 配置环境变量,当前以非root用户安装后的默认路径为例,请用户根据set_env.sh的实际路径执行如下命令。
    1
    source ${HOME}/Ascend/nnrt/set_env.sh 
    

    上述环境变量配置只在当前窗口生效,用户可以按需将以上命令写入环境变量配置文件(如.bashrc文件)。

安装Kernels算子包

CANN二进制算子包,包括单算子API执行(例如aclnn类API)动态库/静态库文件,以及kernel二进制文件。

Kernels算子包安装之前,需已安装配套版本的Toolkit并配置环境变量。

Kernels算子包安装之前,需已安装配套版本的NNAE并配置环境变量。

Kernels算子包安装之前,需已安装配套版本的NNRT并配置环境变量。

  1. 增加对软件包的可执行权限。
    1
    chmod +x Ascend-cann-kernels-<chip_type>_<version>_linux-<arch>.run
    
  2. 安装软件包。
    1
    ./Ascend-cann-kernels-<chip_type>_<version>_linux-<arch>.run --install
    

    如需同时安装静态库,请将--install变更为--devel参数,执行以上命令。

    执行安装命令时,会自动执行--check参数,校验软件包的一致性和完整性,出现如下回显信息,表示软件包校验成功。

    1
    Verifying archive integrity...  100%   SHA256 checksums are OK. All good.
    

    执行以上命令会显示华为企业业务最终用户许可协议(EULA)的条款和条件,请输入Yy同意协议,继续安装流程。

    安装完成后,若显示如下信息,则说明软件安装成功:
    1
    xxx install success
    

    xxx表示安装的实际软件包名。

安装NNAL神经网络加速库(可选)

NNAL神经网络加速库中提供了ATB(Ascend Transformer Boost)加速库和SiP(AscendSiPBoost)信号处理加速库。

加速库安装之前,需已安装同一版本的Toolkit并配置环境变量。

加速库安装之前,需已安装同一版本的NNAE并配置环境变量。

  1. 增加对软件包的可执行权限。
    1
    chmod +x Ascend-cann-nnal_<version>_linux-<arch>.run
    
  2. 安装软件包(安装命令支持--install-path=<path>等参数,具体使用方式请参见参数说明),以下命令会同时安装SiP加速库和ATB加速库的C++库。
    1
    ./Ascend-cann-nnal_<version>_linux-<arch>.run --install
    

    如需单独安装SiP加速库或ATB加速库的C++库,安装时需添加--whitelist=<feature_type>参数进行指定;如需安装Python库,安装时需添加--torch_atb参数进行指定,且运行时确保已安装Kernels算子包。

    执行安装命令时,会自动执行--check参数,校验软件包的一致性和完整性,出现如下回显信息,表示软件包校验成功。

    1
    Verifying archive integrity...  100%   SHA256 checksums are OK. All good.
    

    执行以上命令会显示华为企业业务最终用户许可协议(EULA)的条款和条件,请输入Yy同意协议,继续安装流程。

    安装完成后,若显示如下信息,则说明软件安装成功:
    1
    xxx install success
    

    xxx表示安装的实际软件包名。

    如果用户未指定安装路径,则软件会安装到默认路径下,默认安装路径如下。root用户:“/usr/local/Ascend”,非root用户:“${HOME}/Ascend”,${HOME}为当前用户目录。

  3. 配置环境变量,当前以非root用户安装后的默认路径为例,请用户根据加速库对应的set_env.sh的实际路径进行替换。
    需注意,不支持同时配置ATB和SiP的环境变量脚本。
    • ATB加速库:
      1
      source ${HOME}/Ascend/nnal/atb/set_env.sh
      
    • SiP加速库:
      1
      source ${HOME}/Ascend/nnal/asdsip/set_env.sh
      

    上述环境变量配置只在当前窗口生效,用户可以按需将以上命令写入环境变量配置文件(如.bashrc文件)。