运行流程

图1 运行流程
表1 运行流程关键操作步骤说明

关键步骤

说明

搭建带NPU设备的训练环境

参见CANN 软件安装指南手册搭建对应产品环境。

安装昇腾模型压缩工具

参见工具安装安装昇腾模型压缩工具。安装之前需要完成获取软件包,创建昇腾模型压缩工具安装用户、环境检查、安装依赖、上传软件包等一系列准备动作。

执行量化

使用昇腾模型压缩工具amct_acl将模型量化为.air模型,具体量化操作请参见执行量化

(后续处理)量化后模型的推理

借助CANN软件包提供的ATC工具,将量化后的.air模型转换成适配昇腾AI处理器的离线模型。使用转换后的离线模型,在昇腾AI处理器完成推理业务。