Atlas 200I A2(Atlas 200I A2 加速模块)以Atlas 200I/500 A2推理产品的PCle(Peripheral Component Interconnect Express)的工作模式进行区分,如果PCle工作在从模式,则称为EP(Endpoint)模式;如果PCle工作在主模式,可以扩展外设,则称为RC(Root Complex)模式。具体可参考《昇腾产品形态说明》。
Atlas 200I A2(RC场景)仅支持作为运行环境。
需要另外准备一台服务器用于搭建开发环境,详情参考非昇腾设备。
安装示意图如图1所示。
Atlas 200 AI加速模块(RC场景)在容器内部署运行环境具体请参考《Atlas 200I A2 加速模块 23.0.0 昇腾软件安装指南》。
软件包说明:
nnrt:离线推理引擎包,用于应用程序的模型推理。仅支持离线推理。
离线推理:是基于原有AI框架模型转换OM模型,不依赖于AI框架执行推理的场景。