昇腾社区首页
中文
注册
开发者
下载
支持
积分兑换 NEW

安装CANN软件包

前提条件

  • root用户和非root用户安装CANN软件包的步骤一致，当前示例步骤以非root用户为例。
  • 请参考本文档正确安装和使用CANN软件，不建议将CANN安装在共享磁盘后，通过挂载的方式使用CANN，因为CANN对文件系统有文件锁的依赖，部分共享存储不支持文件锁，可能导致任务拉起失败。
  • 可使用root或非root用户（非root用户需与CANN软件包安装用户保持一致）安装依赖。如果使用非root用户安装，需要用到提权命令，请用户自行获取所需的sudo权限，使用完成后请取消涉及高危命令的权限，否则有sudo提权风险。

安装Toolkit开发套件包

CANN Toolkit开发套件包，在训练&推理&开发调试场景下安装，主要用于训练和推理业务、模型转换、算子/应用/模型的开发和编译。

安装Toolkit软件前请确保安装目录可用空间大于10G，如不满足请清理空间或更换安装目录。

  1. 执行安装命令。
    1
    sudo yum install -y Ascend-cann-toolkit

    以上指令默认安装最新版本的软件包，需安装指定版本时请自行在软件包后添加版本号，可通过sudo yum list Ascend-cann-* --showduplicates查询支持的版本号。

    安装完成后，若显示如下信息，则说明软件安装成功：
    1
    xxx install success

    xxx表示安装的实际软件包名，CANN软件包在线安装时仅支持安装在默认路径“/usr/local/Ascend”下。

  2. 配置环境变量。
    1
    source /usr/local/Ascend/ascend-toolkit/set_env.sh

    上述环境变量配置只在当前窗口生效，用户可以按需将以上命令写入环境变量配置文件（如.bashrc文件）。

  3. 安装后检查。执行如下命令查询CANN版本信息，查询结果与安装软件包的版本一致时，则验证安装成功。
    1
    sudo yum list installed | grep toolkit

安装NNAE深度学习引擎包

CANN NNAE深度学习引擎包，在训练&推理场景下安装，主要用于训练和推理业务。

  1. 执行安装命令。
    1
    sudo yum install -y Ascend-cann-nnae

    以上指令默认安装最新版本的软件包，需安装指定版本时请自行在软件包后添加版本号，可通过sudo yum list Ascend-cann-* --showduplicates查询支持的版本号。

    安装完成后，若显示如下信息，则说明软件安装成功：
    1
    xxx install success

    xxx表示安装的实际软件包名，CANN软件包在线安装时仅支持安装在默认路径“/usr/local/Ascend”下。

  2. 配置环境变量。
    1
    source /usr/local/Ascend/nnae/set_env.sh

    上述环境变量配置只在当前窗口生效，用户可以按需将以上命令写入环境变量配置文件（如.bashrc文件）。

  3. 安装后检查。执行如下命令查询CANN版本信息，查询结果与安装软件包的版本一致时，则验证安装成功。
    1
    sudo yum list installed | grep nnae

安装NNRT离线推理引擎包

CANN NNRT离线推理引擎包，在边缘推理场景下安装，仅支持离线推理，主要用于应用程序的模型推理。

  1. 执行安装命令。
    1
    sudo yum install -y Ascend-cann-nnrt

    以上指令默认安装最新版本的软件包，需安装指定版本时请自行在软件包后添加版本号，可通过sudo yum list Ascend-cann-* --showduplicates查询支持的版本号。

    安装完成后，若显示如下信息，则说明软件安装成功：
    1
    xxx install success

    xxx表示安装的实际软件包名，CANN软件包在线安装时仅支持安装在默认路径“/usr/local/Ascend”下。

  2. 配置环境变量。
    1
    source /usr/local/Ascend/nnrt/set_env.sh

    上述环境变量配置只在当前窗口生效，用户可以按需将以上命令写入环境变量配置文件（如.bashrc文件）。

  3. 安装后检查。执行如下命令查询CANN版本信息，查询结果与安装软件包的版本一致时，则验证安装成功。
    1
    sudo yum list installed | grep nnrt

安装Kernels算子包

CANN二进制算子包，包括单算子API执行（例如aclnn类API）动态库文件，以及kernel二进制文件。

Kernels算子包安装之前，需已安装配套版本的Toolkit并配置环境变量。

Kernels算子包安装之前，需已安装配套版本的NNAE并配置环境变量。

Kernels算子包安装之前，需已安装配套版本的NNRT并配置环境变量。

  1. 根据处理器类型执行命令安装。
    1
    sudo yum install -y Ascend-cann-kernels-<chip_type>

    可执行sudo yum list Ascend-cann-* --showduplicates | grep kernels查看可安装的软件包名称和版本号。其中<chip_type>表示处理器类型，在当前设备上执行npu-smi info查询，获取Name信息，例如Name取值为xxxY1，实际配置时需要将大写Y改为小写y，并去掉末位数字，实际配置值为Ascend-cann-kernels-xxxy，另外针对Atlas 训练系列产品请配置为910。

    针对Atlas A3 训练系列产品和Atlas A3 推理系列产品，请执行如下指令：

    1
    sudo yum install -y Atlas-A3-cann-kernels

    以上指令默认安装最新版本的软件包，需安装指定版本时请自行在软件包后添加版本号。

    安装完成后，若显示如下信息，则说明软件安装成功：
    1
    xxx install success

    xxx表示安装的实际软件包名。

  2. 安装后检查。执行如下命令查询软件版本信息，查询结果与安装软件包的版本一致时，则验证安装成功。
    1
    sudo yum list installed | grep kernels

安装NNAL神经网络加速库（可选）

NNAL神经网络加速库中提供了面向大模型领域的ATB（Ascend Transformer Boost）加速库，实现了基于Transformer结构的神经网络推理加速引擎库，提供昇腾亲和的融合算子、通信算子、内存优化等，作为算子的公共底座提升了大模型训练和推理性能。

加速库安装之前，需已安装同一版本的Toolkit并配置环境变量。

加速库安装之前，需已安装同一版本的NNAE并配置环境变量。

  1. 执行安装命令。
    1
    sudo yum install -y Ascend-cann-nnal

    以上指令默认安装最新版本的软件包，需安装指定版本时请自行在软件包后添加版本号，可通过sudo yum list Ascend-cann-* --showduplicates查询支持的版本号。

    安装完成后，若显示如下信息，则说明软件安装成功：
    1
    xxx install success

    xxx表示安装的实际软件包名，CANN软件包在线安装时仅支持安装在默认路径“/usr/local/Ascend”下。

  2. 配置环境变量。
    1
    source /usr/local/Ascend/nnal/atb/set_env.sh

    上述环境变量配置只在当前窗口生效，用户可以按需将以上命令写入环境变量配置文件（如.bashrc文件）。

  3. 安装后检查。执行如下命令查询NNAL软件版本信息，查询结果与安装软件包的版本一致时，则验证安装成功。
    1
    sudo yum list installed | grep nnal
父主题： 安装CANN