A300T-9000、Atlas 300T Pro、A800-9000、A800-9010、A900-9000

A300T-9000（Atlas 300T 训练卡（型号 9000））、Atlas 300T Pro（Atlas 300T Pro 训练卡（型号：9000））、A800-9000（Atlas 800 训练服务器（型号 9000））、A800-9010（Atlas 800 训练服务器（型号 9010））、A900-9000（Atlas 900 AI集群（型号 9000））开发或运行环境安装参考如下：

• 开发环境

  开发环境安装软件如图1所示。

  软件包说明：

  • npu-firmware：固件安装包。
  • npu-driver：驱动安装包。
  • toolkit：开发套件包。主要用于用户开发应用、自定义算子和模型转换。开发套件包包含开发应用程序所需的AscendCL库文件、开发工具（如ATC模型转换工具）等。
  • kernels（可选）：二进制算子包。在包含动态shape网络或单算子API（例如aclnn类API）场景下使用。
  • tfplugin（可选）：插件包，对接上层框架TensorFlow的适配插件。在线推理或训练场景下若使用深度学习框架TensorFlow，需要安装该软件包。
  • AI框架：深度学习框架。如MindSpore、TensorFlow、PyTorch等。
  图1 开发环境
  
• 运行环境

  运行环境安装软件如图2所示。

  如需进行容器部署，请先安装驱动、固件，然后参考安装运行环境（在容器安装）进行容器部署。

  软件包说明：

  • npu-firmware：固件安装包。
  • npu-driver：驱动安装包。
  • nnae：深度学习引擎包。支持离线推理、在线推理、训练。
  • kernels（可选）：二进制算子包。在包含动态shape网络或单算子API（例如aclnn类API）场景下使用。
  • toolbox：实用工具包。主要包含ascend-dmi工具。
  • tfplugin（可选）：插件包，对接上层框架TensorFlow的适配插件。在线推理或训练场景下若使用深度学习框架TensorFlow，需要安装该软件包。
  • AI框架：深度学习框架。如MindSpore、TensorFlow、PyTorch等。
  图2 运行环境
  
  

  • 离线推理：是基于原有AI框架模型转换OM模型，不依赖于AI框架执行推理的场景。
  • 在线推理：是将原有AI框架做推理的应用快速迁移至昇腾AI处理器上，依赖于AI框架执行推理的场景。