Atlas 200T A2 Box16、Atlas 800T A2、Atlas 900 A2 PoD

Atlas 200T A2 Box16（Atlas 200T A2 Box16 异构子框）、Atlas 800T A2（Atlas 800T A2 训练服务器）、Atlas 900 A2 PoD（Atlas 900 A2 PoD 集群基础单元）开发或运行环境安装参考如下：

• 开发环境

  开发环境安装软件如图1所示，其中只有Atlas 800T A2 训练服务器、Atlas 900 A2 PoD 集群基础单元支持虚拟机部署。

  软件包说明：

  • npu-firmware：固件安装包。
  • npu-driver：驱动安装包。
  • toolkit：开发套件包。主要用于用户开发应用、自定义算子和模型转换。开发套件包包含开发应用程序所需的AscendCL库文件、开发工具（如ATC模型转换工具）等。
  • kernels（可选）：二进制算子包。在包含动态shape网络或单算子API（例如aclnn类API）场景下使用。
  • tfplugin（可选）：插件包，对接上层框架TensorFlow的适配插件。在线推理或训练场景下若使用深度学习框架TensorFlow，需要安装该软件包。
  • AI框架：深度学习框架。如MindSpore、TensorFlow、PyTorch等。
  图1 开发环境
  
• 运行环境

  运行环境安装软件如图2所示，其中只有Atlas 800T A2 训练服务器、Atlas 900 A2 PoD 集群基础单元支持虚拟机部署。

  如需进行容器部署，请先安装驱动、固件，然后参考安装运行环境（在容器安装）进行容器部署。

  软件包说明：

  • npu-firmware：固件安装包。
  • npu-driver：驱动安装包。
  • nnae：深度学习引擎包。支持离线推理、在线推理、训练。
  • kernels（可选）：二进制算子包。在包含动态shape网络或单算子API（例如aclnn类API）场景下使用。
  • toolbox：实用工具包。主要包含ascend-dmi工具。
  • tfplugin（可选）：插件包，对接上层框架TensorFlow的适配插件。在线推理或训练场景下若使用深度学习框架TensorFlow，需要安装该软件包。
  • AI框架：深度学习框架。如MindSpore、TensorFlow、PyTorch等。
  图2 运行环境
  
  

  • 离线推理：是基于原有AI框架模型转换OM模型，不依赖于AI框架执行推理的场景。
  • 在线推理：是将原有AI框架做推理的应用快速迁移至昇腾AI处理器上，依赖于AI框架执行推理的场景。