昇腾社区首页
中文
注册

Atlas 200I A2(RC场景)

Atlas 200I A2(Atlas 200I A2 加速模块)以Atlas 200I/500 A2推理产品的PCle(Peripheral Component Interconnect Express)的工作模式进行区分,如果PCle工作在从模式,则称为EP(Endpoint)模式;如果PCle工作在主模式,可以扩展外设,则称为RC(Root Complex)模式。具体可参考昇腾产品形态说明

Atlas 200I A2(RC场景)仅支持作为运行环境。

  • 开发环境

    需要另外准备一台服务器用于搭建开发环境,详情参考非昇腾设备

  • 运行环境

    安装示意图如图1所示。

    Atlas 200 AI加速模块(RC场景)在容器内部署运行环境具体请参考Atlas 200I A2 加速模块 23.0.0 昇腾软件安装指南

    软件包说明:

    nnrt:离线推理引擎包,用于应用程序的模型推理。仅支持离线推理。

    图1 运行环境

    离线推理:是基于原有AI框架模型转换OM模型,不依赖于AI框架执行推理的场景。