昇腾社区首页
中文
注册

准备软件包

  • 准备待安装软件包,有如下两种方式(其中MindSpore、MindStudio软件包的准备仅支持方式一)。
    由于ascend-deployer工具无法区分Atlas 200EP和A300推理卡,因此使用该工具时应注意以下约束:
    • ascend-deployer工具的在线下载软件包功能不包含Atlas 200EP的驱动和固件包,如果是Atlas 200EP环境,请用户自行准备Atlas 200EP的驱动和固件包。
    • 不支持Atlas 200EP和A300推理卡环境同时进行批量部署。部署Atlas 200EP环境时,ascend-deployer/resources目录下请不要放置A300推理卡的驱动和固件包;部署A300推理卡环境时,ascend-deployer/resources目录下请不要放置Atlas 200EP的驱动和固件包。
    • 方式一:使用ascend-deployer工具在线下载表1中的软件包(如CANN软件包等)、MindSpore以及MindStudio软件包,具体操作请参考下载操作
    • 方式二:用户自行准备待安装软件包。
      1. 请根据安装场景准备待安装软件包,获取方式请参考表1(请下载所需软件包和相应数字签名文件)。
        表1 软件包

        名称

        软件包

        说明

        获取链接

        驱动和固件包

        Axxx-*-npu_*-{arch}.zip或

        Axxx-*-driver_*-{arch}.run、Axxx-*-firmware_*-{arch}.run

        含NPU固件与驱动。

        其中Ascend-hdk-*-npu_*-{arch}.zip系列的软件包支持多产品安装固件和驱动,推荐下载。例如Atlas 300I Pro、Atlas 300V、Atlas 300I Duo、Atlas 300V Pro等产品可以使用Ascend-hdk-310p-npu_*-{arch}.zip包安装固件和驱动。

        获取链接

        开发套件包

        Ascend-cann-toolkit_{version}_linux-{arch}.zip或Ascend-cann-toolkit_{version}_linux-{arch}.run

        • 主要用于用户开发应用、自定义算子和模型转换。开发套件包包含开发应用程序所需的库文件、开发辅助工具如ATC模型转换工具。
        • 对于运行环境为aarch64而开发环境为x86_64的场景,需同时获取两种架构的开发套件包。

        获取链接

        离线推理引擎包

        Ascend-cann-nnrt_{version}_linux-{arch}.zip

        或Ascend-cann-nnrt_{version}_linux-{arch}.run

        主要包含AscendCL库、编译依赖的相关库(不包含driver包中的库),用于应用程序的模型推理。

        仅支持离线推理,智能边缘(Atlas Intelligent Edge Solution)场景安装该软件包。

        深度学习引擎包

        Ascend-cann-nnae_{version}_linux-{arch}.zip

        或Ascend-cann-nnae_{version}_linux-{arch}.run

        包含FWK库Fwklib和算子库OPP组件。

        支持离线推理、在线推理、训练,数据中心(Ascend Data Center Solution)场景安装该软件包。

        框架插件包

        Ascend-cann-tfplugin_{version}_linux-{arch}.zip或Ascend-cann-tfplugin_{version}_linux-{arch}.run

        (可选)插件包,对接上层框架Tensorflow的适配插件。

        在线推理或训练场景下若使用深度学习框架TensorFlow,需要获取该软件包。

        获取链接

        二进制算子包

        Ascend-cann-kernels-{chip_type}_{version}_linux.zip或Ascend-cann-kernels-{chip_type}_{version}_linux.run

        (可选)CANN算子二进制安装包,支持在算子编译场景下使用。

        安装前,需要先安装nnae或toolkit。

        获取链接

        实用工具包

        Ascend-mindx-toolbox_{version}_linux-{arch}.zip或Ascend-mindx-toolbox_{version}_linux-{arch}.run

        包含Ascend-DMI工具。

        若获取MindX DL 3.0.0之前版本的实用工具包,则主要包含容器引擎插件Ascend-docker-runtime、Ascend-DMI工具。

        获取链接

        • {version}表示软件版本号,{arch}表示CPU架构。
        • 软件数字签名验证

          为了防止软件包在传递过程或存储期间被恶意篡改,下载软件包时需下载对应的数字签名文件用于完整性验证。

          在软件包下载之后,请参考《OpenPGP签名验证指南》,对从Support网站下载的软件包进行PGP数字签名校验。如果校验失败,请不要使用该软件包,先联系华为技术支持工程师解决。

          使用软件包安装/升级之前,也需要按上述过程先验证软件包的数字签名,确保软件包未被篡改。

          运营商客户请访问:http://support.huawei.com/carrier/digitalSignatureAction

          企业客户请访问:https://support.huawei.com/enterprise/zh/tool/pgp-verify-TL1000000054

      2. 请将待安装软件包放置于ascend-deployer/resources目录下。参考如下(加粗部分为待安装软件包示例):
        resources目录下各软件包应只存在一个版本,否则可能出现版本不配套的情况。
        ascend-deployer
        |- ...
        |- install.sh
        |- inventory_file
        |- ...
        |- playbooks
        |- README.md
        |- resources
           |- A300-3010-npu_*.zip
           |- ...
           |- Ascend-cann-toolkit_*.zip
           |- ...
           |- CentOS_7.6_aarch64
           |- CentOS_7.6_x86_64
           |- ...
  • 由于ascend-deployer工具不能自动下载到pytorch安装包、aarch64架构的tensorflow安装包,如果用户想安装pytorch(torch-1.5.0+*.whl、apex-0.1+*.whl)或aarch64架构的tensorflow(tensorflow-1.15.0-*.whl/tensorflow-2.6.5-*.whl),可将相应的编译好的*.whl包放置于ascend-deployer/resources/pylibs目录下。注意aarch64架构的tensorflow编译时请严格遵守官方的编译规范。
    • tensorflow安装包(aarch64架构)的编译操作可参考CANN 软件安装指南的“安装深度学习框架”章节。
    • pytorch安装包的编译操作可参考CANN软件安装指南》”安装PyTorch”章节
  • 如需部署镜像,可从AscendHub上拉取所需镜像并保存为指定格式(*_x86_64.tar*_aarch64.tar)的镜像文件,放置于ascend-deployer/resources/docker_images目录(需自行创建该目录)下。
  • 如果待部署设备是A500 Pro-3000或者A500-3000、A500-3010,且需要安装IEF Agent,以实现IEF对边缘节点的注册和纳管,则需要满足如下前提条件:
    • IEF服务器正常工作,边缘节点与IEF之间网络正常。其他限制,如对设备的规格要求等请参见智能边缘平台IEF
    • 获取节点证书、EdgeCore Register和EdgeCore Installer,获取方法请参见批量节点注册中的“创建批量节点注册作业”部分。然后将获取到的节点证书、EdgeCore Register和EdgeCore Installer放置于resources目录下。
    • 确保边缘节点的AtlasEdge中间件正常工作。A500-3000、A500-3010自带AtlasEdge中间件,A500 Pro-3000需要先安装AtlasEdge中间件。
    • 对于A500-3000、A500-3010,由于已经预置了EdgeCore Register和EdgeCore Installer,因此仅需要获取节点证书即可。
    • A500-3000、A500-3010自带的EulerOS系统不支持ascend-deployer工具运行,因此仅支持远程安装。
    • 请确保节点证书的有效性和完整性,如果证书被修改过、损坏或者过期等,则会导致IEF Agent安装失败。