昇腾社区首页
中文
注册

准备软件包

软件包下载

下载本软件即表示您同意华为企业业务最终用户许可协议(EULA)的条款和条件。

表1 软件包清单

软件类型

软件包说明

软件包名称

获取链接

昇腾NPU驱动

部署在昇腾AI处理器,用于管理查询昇腾AI处理器,同时为上层CANN软件提供处理器控制、资源分配等接口。

Ascend-hdk-<chip_type>-npu-driver_<version>_linux-<arch>.run

单击获取链接,确认产品信息和CANN版本后,获取驱动和固件包

昇腾NPU固件

固件包含昇腾AI处理器自带的OS 、电源器件和功耗管理器件控制软件,分别用于后续加载到AI处理器的模型计算、处理器启动控制和功耗控制。

Ascend-hdk-<chip_type>-npu-firmware_<version>.run

Toolkit

CANN开发套件包,在训练&推理&开发调试场景下安装,主要用于训练和推理业务、模型转换、算子/应用/模型的开发和编译。

Ascend-cann-toolkit_<version>_linux-<arch>.run

单击获取链接,确认版本信息后获取CANN软件包

NNAE

CANN深度学习引擎包,在训练&推理场景下安装,主要用于训练和推理业务。

Ascend-cann-nnae_<version>_linux-<arch>.run

单击获取链接,确认版本信息后获取CANN软件包

NNRT

CANN离线推理引擎包,在边缘推理场景下安装,仅支持离线推理,主要用于应用程序的模型推理。

Ascend-cann-nnrt_<version>_linux-<arch>.run

单击获取链接,确认版本信息后获取CANN软件包

Kernels

CANN二进制算子包,包括单算子API执行(例如aclnn类API)动态库/静态库文件,以及kernel二进制文件。

使用场景:

  • 单算子API执行(例如aclnn类API)场景下必须安装该软件包。
  • 图模式动态shape场景下,建议安装该软件包,安装后可提升编译性能。
  • 图模式静态shape场景下,若安装该软件包,安装后可以提升编译性能。若不安装该软件包,按照确定shape编译新的kernel,可以提升算子执行性能。

安装时需已安装Toolkit软件包,请选择运行设备对应产品类型和架构的Kernels软件包。

安装时需已安装NNAE软件包,请选择运行设备对应产品类型和架构的Kernels软件包。

安装时需已安装NNRT软件包,请选择运行设备对应产品类型和架构的Kernels软件包。

Ascend-cann-kernels-<chip_type>_<version>_linux-<arch>.run

针对Atlas A3 训练系列产品Atlas A3 推理系列产品,请获取:Atlas-<type>-cann-kernels_<version>_linux-<arch>.run

单击获取链接,确认版本信息后获取CANN软件包

NNAL

(Ascend Neural Network Acceleration Library)

CANN神经网络加速库,包含ATB(Ascend Transformer Boost)加速库和SiP(Ascend SiP Boost)信号处理加速库。

  • ATB加速库:面向大模型领域,可以提升大模型训练和推理性能。
  • SiP加速库:面向AI模型场景(Python)、Torch NPU Adapter(PTA)和信号处理场景(C++),提供一系列信号处理领域相关的高性能算子。

安装时需已安装Toolkit软件包。

安装时需已安装NNAE软件包。

Ascend-cann-nnal_<version>_linux-<arch>.run

单击获取链接,确认版本信息后获取CANN软件包

  • <version>表示软件版本号
  • <arch>表示CPU架构
  • <type>表示产品类型
  • <chip_type>表示处理器类型

软件数字签名验证

为了防止软件包在传递过程或存储期间被恶意篡改,下载软件包时需下载对应的数字签名文件用于完整性验证。

请单击PGP数字签名工具包获取工具包,将工具包解压后,请参考文件夹中的《OpenPGP签名验证指南》,对下载的软件包进行PGP数字签名校验。如果校验失败,请不要使用该软件包,访问支持与服务在论坛求助或提交技术工单。