Atlas 200(Atlas 200 AI加速模块)以Atlas 200/300/500 推理产品的PCle(Peripheral Component Interconnect Express)的工作模式进行区分,如果PCle工作在从模式,则称为EP(Endpoint)模式;如果PCle工作在主模式,可以扩展外设,则称为RC(Root Complex)模式。具体可参考《昇腾产品形态说明》。
- 开发环境
开发环境安装软件如图1所示。
软件包说明:
- npu-firmware:固件安装包。
- npu-driver:驱动安装包。
- toolkit:开发套件包。主要用于用户开发应用、自定义算子和模型转换。开发套件包包含开发应用程序所需的AscendCL库文件、开发工具(如ATC模型转换工具)等。
图1 开发环境
- 运行环境
运行环境安装软件如图2所示。
软件包说明:
- npu-firmware:固件安装包。
- npu-driver:驱动安装包。
- nnrt:离线推理引擎包,用于应用程序的模型推理。仅支持离线推理。
图2 运行环境
离线推理:是基于原有AI框架模型转换OM模型,不依赖于AI框架执行推理的场景。