昇腾社区首页
中文
注册

工具运行流程

具体运行流程如图1所示。

图1 运行流程
表1 运行流程关键操作步骤说明

关键步骤

说明

搭建Atlas 训练系列产品环境

参见CANN 软件安装指南手册安装CANN软件包,搭建Atlas 训练系列产品环境。

安装TensorFlow CPU版本

Atlas 训练系列产品场景只支持基于NPU的量化,不支持GPU量化,故只需安装TensorFlow CPU版本。详细安装步骤请参见安装依赖

安装昇腾模型压缩工具

参见工具安装安装TensorFlow框架的昇腾模型压缩工具。安装之前需要完成获取软件包,创建昇腾模型压缩工具安装用户、环境检查、安装依赖、上传软件包等一系列准备动作。

执行量化

用户根据准备的原始网络模型以及数据集,采用本手册提供的量化脚本,进行量化。详细量化步骤请参见基础量化

昇腾模型压缩工具是基于深度学习框架进行开发的,在执行量化过程中需要调用深度学习框架进行必要的推理过程。

(后续处理)量化后模型的推理

借助CANN软件包提供的ATC工具,将压缩后的.pb模型转换成适配昇腾AI处理器的离线模型。使用转换后的离线模型,在昇腾AI处理器完成推理业务。