Atlas 300I Pro(Atlas 300I Pro 推理卡)、Atlas 300V Pro(Atlas 300V Pro 视频解析卡)、Atlas 300V(Atlas 300V 视频解析卡)、Atlas 300I Duo(Atlas 300I Duo 推理卡)开发和运行环境安装参考如下:
- 开发环境
开发环境安装软件如图1所示。
软件包说明:
- npu-firmware:固件安装包。
- npu-driver:驱动安装包。
- toolkit:开发套件包。主要用于用户开发应用、自定义算子和模型转换。开发套件包包含开发应用程序所需的AscendCL库文件、开发工具(如ATC模型转换工具)等。
- kernels(可选):二进制算子包。在包含动态shape网络或单算子API(例如aclnn类API)场景下使用。
图1 开发环境
- 运行环境
运行环境安装软件如图2所示。
软件包说明:
- npu-firmware:固件安装包。
- npu-driver:驱动安装包。
- nnrt:离线推理引擎包,用于应用程序的模型推理。仅支持离线推理。
图2 运行环境
离线推理:是基于原有AI框架模型转换OM模型,不依赖于AI框架执行推理的场景。