昇腾社区首页
EN
注册
开发者
下载

Atlas 300I Pro、Atlas 300V Pro、Atlas 300V、Atlas 300I Duo

Atlas 300I Pro(Atlas 300I Pro 推理卡)、Atlas 300V Pro(Atlas 300V Pro 视频解析卡)、Atlas 300V(Atlas 300V 视频解析卡)、Atlas 300I Duo(Atlas 300I Duo 推理卡)开发或运行环境安装参考如下:

  • 开发环境

    开发环境安装软件如图1所示。

    软件包说明:

    • npu-firmware:固件安装包。
    • npu-driver:驱动安装包。
    • toolkit:开发套件包。主要用于用户开发应用、自定义算子和模型转换。开发套件包包含开发应用程序所需的AscendCL库文件、开发工具(如ATC模型转换工具)等。
    图1 开发环境
  • 运行环境

    运行环境安装软件如图2所示。

    如需进行容器部署,请先参考本手册安装驱动、固件,然后直接从AscendHub上拉取镜像(推荐)或参考MindX DL 集群调度用户指南自行构建容器镜像。

    软件包说明:

    • npu-firmware:固件安装包。
    • npu-driver:驱动安装包。
    • nnrt:离线推理引擎包,用于应用程序的模型推理。仅支持离线推理。
    • toolbox:实用工具包。主要包含Ascend-DMI工具。
    图2 运行环境
    • 离线推理:是基于原有AI框架模型转换OM模型,不依赖于AI框架执行推理的场景。
    • 在线推理:是将原有AI框架做推理的应用快速迁移至昇腾AI处理器上,依赖于AI框架执行推理的场景。