A300-3000(Atlas 300I 推理卡(型号 3000))、A300-3010(Atlas 300I 推理卡(型号 3010))开发和运行环境安装参考如下:
开发环境安装软件如图1所示。
软件包说明:
运行环境安装软件如图2所示。
如需进行容器部署,请先安装驱动、固件,然后参考安装运行环境(在容器安装)进行容器部署。
离线推理:是基于原有AI框架模型转换OM模型,不依赖于AI框架执行推理的场景。