A800-3000、A800-3010

A800-3000（Atlas 800 推理服务器（型号 3000））、A800-3010（Atlas 800 推理服务器（型号 3010））开发或运行环境安装参考如下：

• 开发环境

  开发环境安装软件如图1所示。

  软件包说明：

  • npu-firmware：固件安装包。
  • npu-driver：驱动安装包。
  • toolkit：开发套件包。主要用于用户开发应用、自定义算子和模型转换。开发套件包包含开发应用程序所需的AscendCL库文件、开发工具（如ATC模型转换工具）等。
  • kernels（可选）：二进制算子包。在包含动态shape网络或单算子API（例如aclnn类API）场景下使用。
  • tfplugin（可选）：插件包，对接上层框架TensorFlow的适配插件。在线推理场景下若使用深度学习框架TensorFlow，需要安装该软件包。
  • AI框架（可选）：如需进行在线推理，则需安装AI框架。
  图1 开发环境
  
• 运行环境

  运行环境安装软件如图2所示，其中nnae软件包支持离线推理。

  如需进行容器部署，请先安装驱动、固件，然后参考安装运行环境（在容器安装）进行容器部署。

  软件包说明：

  • npu-firmware：固件安装包。
  • npu-driver：驱动安装包。
  • nnae：深度学习引擎包。支持离线推理。
  • kernels（可选）：二进制算子包。在包含动态shape网络或单算子API（例如aclnn类API）场景下使用。
  • toolbox：实用工具包。主要包含ascend-dmi工具。
  • tfplugin（可选）：插件包，对接上层框架TensorFlow的适配插件。在线推理场景下若使用深度学习框架TensorFlow，需要安装该软件包。
  • AI框架（可选）：如需进行在线推理，则需安装AI框架。
  图2 运行环境
  
  

  • 离线推理：是基于原有AI框架模型转换OM模型，不依赖于AI框架执行推理的场景。
  • 在线推理：是将原有AI框架做推理的应用快速迁移至昇腾AI处理器上，依赖于AI框架执行推理的场景。