准备软件包
- 准备待安装软件包,有如下两种方式(其中MindSpore、MindStudio软件包的准备仅支持方式一)。
由于ascend-deployer工具无法区分Atlas 200EP和A300推理卡,因此使用该工具时应注意以下约束:
- ascend-deployer工具的在线下载软件包功能不包含Atlas 200EP的驱动和固件包,如果是Atlas 200EP环境,请用户自行准备Atlas 200EP的驱动和固件包。
- 不支持Atlas 200EP和A300推理卡环境同时进行批量部署。部署Atlas 200EP环境时,ascend-deployer/resources目录下请不要放置A300推理卡的驱动和固件包;部署A300推理卡环境时,ascend-deployer/resources目录下请不要放置Atlas 200EP的驱动和固件包。
- 方式一:使用ascend-deployer工具在线下载表1中的软件包(如CANN软件包等)、MindSpore以及MindStudio软件包,具体操作请参考下载操作。
- 方式二:用户自行准备待安装软件包。
- 请根据安装场景准备待安装软件包,获取方式请参考表1(请下载所需软件包和相应数字签名文件)。
表1 软件包 名称
软件包
说明
获取链接
驱动和固件包
Axxx-*-npu_*-{arch}.zip或
Axxx-*-driver_*-{arch}.run、Axxx-*-firmware_*-{arch}.run
含NPU固件与驱动。
其中Ascend-hdk-*-npu_*-{arch}.zip系列的软件包支持多产品安装固件和驱动,推荐下载。例如Atlas 300I Pro、Atlas 300V、Atlas 300I Duo、Atlas 300V Pro等产品可以使用Ascend-hdk-310p-npu_*-{arch}.zip包安装固件和驱动。
开发套件包
Ascend-cann-toolkit_{version}_linux-{arch}.zip或Ascend-cann-toolkit_{version}_linux-{arch}.run
- 主要用于用户开发应用、自定义算子和模型转换。开发套件包包含开发应用程序所需的库文件、开发辅助工具如ATC模型转换工具。
- 对于运行环境为aarch64而开发环境为x86_64的场景,需同时获取两种架构的开发套件包。
离线推理引擎包
Ascend-cann-nnrt_{version}_linux-{arch}.zip
或Ascend-cann-nnrt_{version}_linux-{arch}.run
主要包含AscendCL库、编译依赖的相关库(不包含driver包中的库),用于应用程序的模型推理。
仅支持离线推理,智能边缘(Atlas Intelligent Edge Solution)场景安装该软件包。
深度学习引擎包
Ascend-cann-nnae_{version}_linux-{arch}.zip
或Ascend-cann-nnae_{version}_linux-{arch}.run
包含FWK库Fwklib和算子库OPP组件。
支持离线推理、在线推理、训练,数据中心(Ascend Data Center Solution)场景安装该软件包。
框架插件包
Ascend-cann-tfplugin_{version}_linux-{arch}.zip或Ascend-cann-tfplugin_{version}_linux-{arch}.run
(可选)插件包,对接上层框架Tensorflow的适配插件。
在线推理或训练场景下若使用深度学习框架TensorFlow,需要获取该软件包。
二进制算子包
Ascend-cann-kernels-{chip_type}_{version}_linux.zip或Ascend-cann-kernels-{chip_type}_{version}_linux.run
(可选)CANN算子二进制安装包,支持在算子编译场景下使用。
安装前,需要先安装nnae或toolkit。
实用工具包
Ascend-mindx-toolbox_{version}_linux-{arch}.zip或Ascend-mindx-toolbox_{version}_linux-{arch}.run
包含Ascend-DMI工具。
若获取MindX DL 3.0.0之前版本的实用工具包,则主要包含容器引擎插件Ascend-docker-runtime、Ascend-DMI工具。
- {version}表示软件版本号,{arch}表示CPU架构。
-
为了防止软件包在传递过程或存储期间被恶意篡改,下载软件包时需下载对应的数字签名文件用于完整性验证。
在软件包下载之后,请参考《OpenPGP签名验证指南》,对从Support网站下载的软件包进行PGP数字签名校验。如果校验失败,请不要使用该软件包,先联系华为技术支持工程师解决。
使用软件包安装/升级之前,也需要按上述过程先验证软件包的数字签名,确保软件包未被篡改。
运营商客户请访问:http://support.huawei.com/carrier/digitalSignatureAction
企业客户请访问:https://support.huawei.com/enterprise/zh/tool/pgp-verify-TL1000000054
- 请将待安装软件包放置于ascend-deployer/resources目录下。参考如下(加粗部分为待安装软件包示例):
- 请根据安装场景准备待安装软件包,获取方式请参考表1(请下载所需软件包和相应数字签名文件)。
- 由于ascend-deployer工具不能自动下载到pytorch安装包、aarch64架构的tensorflow安装包,如果用户想安装pytorch(torch-1.5.0+*.whl、apex-0.1+*.whl)或aarch64架构的tensorflow(tensorflow-1.15.0-*.whl/tensorflow-2.6.5-*.whl),可将相应的编译好的*.whl包放置于ascend-deployer/resources/pylibs目录下。注意aarch64架构的tensorflow编译时请严格遵守官方的编译规范。
- 如需部署镜像,可从AscendHub上拉取所需镜像并保存为指定格式(*_x86_64.tar或*_aarch64.tar)的镜像文件,放置于ascend-deployer/resources/docker_images目录(需自行创建该目录)下。
- 如果待部署设备是A500 Pro-3000或者A500-3000、A500-3010,且需要安装IEF Agent,以实现IEF对边缘节点的注册和纳管,则需要满足如下前提条件:
- IEF服务器正常工作,边缘节点与IEF之间网络正常。其他限制,如对设备的规格要求等请参见智能边缘平台IEF。
- 获取节点证书、EdgeCore Register和EdgeCore Installer,获取方法请参见批量节点注册中的“创建批量节点注册作业”部分。然后将获取到的节点证书、EdgeCore Register和EdgeCore Installer放置于resources目录下。
- 确保边缘节点的AtlasEdge中间件正常工作。A500-3000、A500-3010自带AtlasEdge中间件,A500 Pro-3000需要先安装AtlasEdge中间件。
- 对于A500-3000、A500-3010,由于已经预置了EdgeCore Register和EdgeCore Installer,因此仅需要获取节点证书即可。
- A500-3000、A500-3010自带的EulerOS系统不支持ascend-deployer工具运行,因此仅支持远程安装。
- 请确保节点证书的有效性和完整性,如果证书被修改过、损坏或者过期等,则会导致IEF Agent安装失败。