准备软件包
- 准备待安装软件包,有如下两种方式(其中MindX DL相关组件和MEF Center软件包的准备仅支持方式一,APEX软件包仅支持方式二)。
- 方式一:使用ascend-deployer工具在线下载表1中的软件包,具体操作请参考在线下载。
- 方式二:用户自行准备待安装软件包。
- 请根据安装场景准备待安装软件包,获取方式请参考表1(请下载所需软件包和相应数字签名文件),并手动上传至指定目录,且指定目录下各软件包应只存在一个版本,否则可能出现版本不配套的情况。
- 部分软件分为商用版和社区版,两者功能上无区别,区别在于下载权限和是否用于商业用途。社区版软件不需要申请下载权限可以直接下载,但不能用于商业用途;如果软件需要用于商业用途,请下载商用版软件,但需要申请下载权限。
- 部署时仅支持安装一个AI框架(MindSpore、TensorFlow和Torch-npu),请根据实际业务场景需求准备软件包。
下载本软件即表示您同意华为企业业务最终用户许可协议(EULA)的条款和条件。表1 软件包 名称
软件包
说明
获取链接
上传的指定目录
驱动和固件包
Axxx-*-npu_*-{arch}.zip或
Axxx-*-driver_*-{arch}.run、Axxx-*-firmware_*-{arch}.run
含NPU固件与驱动。
其中Ascend-hdk-*-npu_*-{arch}.zip系列的软件包支持多产品安装固件和驱动,推荐下载。例如Atlas 300I Pro、Atlas 300V、Atlas 300I Duo、Atlas 300V Pro等产品可以使用Ascend-hdk-310p-npu_*-{arch}.zip包安装固件和驱动。
ascend-deployer工具文件下的resources目录
开发套件包
Ascend-cann-toolkit_{version}_linux-{arch}.zip或Ascend-cann-toolkit_{version}_linux-{arch}.run
主要用于用户开发应用、自定义算子和模型转换。开发套件包包含开发应用程序所需的库文件、开发辅助工具如ATC模型转换工具。
离线推理引擎包
Ascend-cann-nnrt_{version}_linux-{arch}.zip或Ascend-cann-nnrt_{version}_linux-{arch}.run
主要包含AscendCL库、编译依赖的相关库(不包含driver包中的库),用于应用程序的模型推理。
仅支持离线推理,智能边缘(Atlas Intelligent Edge Solution)场景安装该软件包。
深度学习引擎包
Ascend-cann-nnae_{version}_linux-{arch}.zip或Ascend-cann-nnae_{version}_linux-{arch}.run
包含FWK库Fwklib和算子库OPP组件。
支持离线推理、在线推理、训练,数据中心(Ascend Data Center Solution)场景安装该软件包。
二进制算子包
Ascend-cann-kernels-{chip_type}_{version}_linux.zip或Ascend-cann-kernels-{chip_type}_{version}_linux.run
(可选)CANN算子二进制安装包,涉及动态shape网络的场景下使用。自CANN 6.0.1版本开始支持。
框架插件包
Ascend-cann-tfplugin_{version}_linux-{arch}.zip或Ascend-cann-tfplugin_{version}_linux-{arch}.run
(可选)插件包,对接上层框架Tensorflow的适配插件。
在线推理或训练场景下若使用深度学习框架TensorFlow,需要获取该软件包。
实用工具包
Ascend-mindx-toolbox_{version}_linux-{arch}.zip或Ascend-mindx-toolbox_{version}_linux-{arch}.run
包含Ascend-DMI工具,若需要安装后检查CANN运行情况,需安装实用工具包。
若获取MindX 3.0.0之前版本的实用工具包,则主要包含容器引擎插件Ascend-docker-runtime、Ascend-DMI工具。
全流程开发工具链
MindStudio_{version}_linux.tar.gz
(可选)提供在AI开发所需的一站式开发环境,支持模型开发、算子开发以及应用开发三个主流程中的开发任务。
MindIO软件包
Ascend-mindxdl-mindio_{version}_linux-{arch}.run
MindIO加速大模型CheckPoint功能主要针对大模型训练中的CheckPoint的保存及加载进行加速。
需注意,ascend-deployer工具支持安装MindX 5.0.0及以上版本的MindIO软件包。
ascend-deployer工具文件下的resources目录
PyTorch软件包
1.8.1和1.11.0版本:
- torch_npu-{version}_{arch}.whl
- torch-{version}_{arch}.whl
(可选)继承开源PyTorch特性,适配昇腾AI处理器系列。实现使用昇腾AI处理器进行动态图训练,支持自定义算子开发和模型调整。
ascend-deployer工具文件下的resources/pylibs目录
APEX混合精度模块
apex-{version}_{arch}.whl
(可选)APEX混合精度模块是一个集优化性能、精度收敛于一身的综合优化库,可以提供不同场景下的混合精度训练支持。与PyTorch版本配套安装。
TensorFlow软件包
tensorflow-{version}_{arch}.whl
(可选)继承开源TensorFlow特性,适配昇腾AI处理器系列。实现使用昇腾AI处理器进行静态图训练,支持自定义算子开发和模型调整。
MindSpore软件包
mindspore_ascend-{version}-linux_{arch}.whl
(可选)昇思MindSpore是一个全场景深度学习框架,旨在实现易开发、高效执行、全场景覆盖三大目标。
ascend-deployer工具文件下的resources/pylibs/Ascend目录。
- {version}表示软件版本号,{arch}表示CPU架构。
-
为了防止软件包在传递过程或存储期间被恶意篡改,下载软件包时需下载对应的数字签名文件用于完整性验证。
在软件包下载之后,请参考《OpenPGP签名验证指南》,对从Support网站下载的软件包进行PGP数字签名校验。如果校验失败,请不要使用该软件包,先联系华为技术支持工程师解决。
使用软件包安装/升级之前,也需要按上述过程先验证软件包的数字签名,确保软件包未被篡改。
运营商客户请访问:http://support.huawei.com/carrier/digitalSignatureAction
企业客户请访问:https://support.huawei.com/enterprise/zh/tool/pgp-verify-TL1000000054
- 如需部署镜像,可从AscendHub上拉取所需镜像并保存为指定格式(*_x86_64.tar或*_aarch64.tar)的镜像文件,放置于ascend-deployer/ascend_deployer/resources/docker_images目录(需自行创建该目录)下。
- 如果待部署设备是A500 Pro-3000,且需要安装IEF Agent,以实现IEF对边缘节点的注册和纳管,则需要满足如下前提条件: