A300T-9000(Atlas 300T 训练卡(型号 9000))、Atlas 300T Pro(Atlas 300T Pro 训练卡(型号:9000))、A800-9000(Atlas 800 训练服务器(型号 9000))、A800-9010(Atlas 800 训练服务器(型号 9010))、A900-9000(Atlas 900 AI集群(型号 9000))开发或运行环境安装参考如下:
- 开发环境
开发环境安装软件如图1所示。
软件包说明:
- npu-firmware:固件安装包。
- npu-driver:驱动安装包。
- toolkit:开发套件包。主要用于用户开发应用、自定义算子和模型转换。开发套件包包含开发应用程序所需的AscendCL库文件、开发工具(如ATC模型转换工具)等。
- kernels(可选):二进制算子包。在包含动态shape网络或单算子API(例如aclnn类API)场景下使用。
- tfplugin(可选):插件包,对接上层框架TensorFlow的适配插件。在线推理或训练场景下若使用深度学习框架TensorFlow,需要安装该软件包。
- AI框架:深度学习框架。如MindSpore、TensorFlow、PyTorch等。
图1 开发环境
- 运行环境
运行环境安装软件如图2所示。
软件包说明:
- npu-firmware:固件安装包。
- npu-driver:驱动安装包。
- nnae:深度学习引擎包。支持离线推理、在线推理、训练。
- kernels(可选):二进制算子包。在包含动态shape网络或单算子API(例如aclnn类API)场景下使用。
- tfplugin(可选):插件包,对接上层框架TensorFlow的适配插件。在线推理或训练场景下若使用深度学习框架TensorFlow,需要安装该软件包。
- AI框架:深度学习框架。如MindSpore、TensorFlow、PyTorch等。
图2 运行环境
- 离线推理:是基于原有AI框架模型转换OM模型,不依赖于AI框架执行推理的场景。
- 在线推理:是将原有AI框架做推理的应用快速迁移至昇腾AI处理器上,依赖于AI框架执行推理的场景。