安装加速库

NNAL软件包中提供了面向大模型领域的ATB（Ascend Transformer Boost）加速库，实现了基于Transformer结构的神经网络推理加速引擎库，提供昇腾亲和的融合算子、通信算子、内存优化等，作为算子的公共底座提升了大模型训练和推理性能。

前提条件

安装步骤

  1. 以软件包的安装用户登录安装环境。
  2. 将获取到的开发套件包上传到安装环境任意路径（如“/home/package”）。
  3. 进入软件包所在路径。
  4. 增加对软件包的可执行权限。

    chmod +x 软件包名.run

    软件包名.run表示加速库软件包Ascend-cann-nnal_{version}_linux-{arch}.run，请根据实际包名进行替换。

  5. 执行如下命令校验软件包安装文件的一致性和完整性。

    ./软件包名.run --check

  6. 执行以下命令安装软件（以下命令支持--install-path=<path>等参数，具体参数说明请参见软件包参数说明）。

    ./软件包名.run --install --quiet
    • 如果用户未指定安装路径，则软件会安装到默认路径下，默认安装路径如下。
      • root用户：“/usr/local/Ascend”
      • 非root用户：“${HOME}/Ascend”

        其中${HOME}为当前用户目录。软件包支持多版本安装，同一安装路径下，可以安装多个版本的软件包，不同版本的软件通过版本目录来区分。默认使用最后安装的版本（即通过软件包名/latest建立软连接到最后安装的版本）。

    • 软件包安装详细日志路径如下。
      • root用户：“/var/log/ascend_seclog/ascend_nnal_install.log”和/var/log/cann_atb_seclog/cann_atb_install.log。
      • 非root用户：“${HOME}/var/log/ascend_seclog/ascend_nnal_install.log”和${HOME}/var/log/cann_atb_seclog/cann_atb_install.log

        其中${HOME}为当前用户目录。

    执行以上命令默认同意华为企业业务最终用户许可协议（EULA）的条款和条件。

    安装完成后，若显示如下信息，则说明软件安装成功：
    xxx install success

    xxx表示安装的实际软件包名。

配置环境变量

当前提供进程级环境变量设置脚本，供用户在进程中引用，以自动完成环境变量设置。用户进程结束后自动失效。示例如下（以root用户默认安装路径为例）：

source /usr/local/Ascend/nnal/atb/set_env.sh
用户也可以通过修改~/.bashrc文件方式设置永久环境变量，操作如下：
  1. 以运行用户在任意目录下执行vi ~/.bashrc命令，打开.bashrc文件，在文件最后一行后面添加上述内容。
  2. 执行:wq!命令保存文件并退出。
  3. 执行source ~/.bashrc命令使其立即生效。

执行环境变量脚本时配置abi参数：

  • 自动配置：执行set_env.sh脚本时，若不加任何参数，且已检测到torch环境时会自动调用torch.compiled_with_cxx11_abi()接口，选择Pytorch编译时abi参数作为ATB的abi参数，如果没有检测到torch环境则默认配置abi=1。
  • 手动配置：执行set_env.sh时，支持用户通过--cxx_abi=1和--cxx_abi=0参数指定ATB的abi参数。
父主题： 安装CANN