A300-3000(Atlas 300I 推理卡(型号 3000))、A300-3010(Atlas 300I 推理卡(型号 3010))开发和运行环境安装参考如下:
- 开发环境
开发环境安装软件如图1所示。
软件包说明:
- npu-firmware:固件安装包。
- npu-driver:驱动安装包。
- toolkit:开发套件包。主要用于用户开发应用、自定义算子和模型转换。开发套件包包含开发应用程序所需的AscendCL库文件、开发工具(如ATC模型转换工具)等。
图1 开发环境
- 运行环境
运行环境安装软件如图2所示。
软件包说明:
- npu-firmware:固件安装包。
- npu-driver:驱动安装包。
- nnrt:离线推理引擎包,用于应用程序的模型推理。仅支持离线推理。
图2 运行环境
离线推理:是基于原有AI框架模型转换OM模型,不依赖于AI框架执行推理的场景。