工具运行流程
具体运行流程如图1所示。
关键步骤 |
说明 |
---|---|
搭建Atlas 训练系列产品环境 |
|
安装TensorFlow CPU版本 |
Atlas 训练系列产品场景只支持基于NPU的量化,不支持GPU量化,故只需安装TensorFlow CPU版本。详细安装步骤请参见安装依赖。 |
安装昇腾模型压缩工具 |
参见工具安装安装TensorFlow框架的昇腾模型压缩工具。安装之前需要完成获取软件包,创建昇腾模型压缩工具安装用户、环境检查、安装依赖、上传软件包等一系列准备动作。 |
执行量化 |
用户根据准备的原始网络模型以及数据集,采用本手册提供的量化脚本,进行量化。详细量化步骤请参见基础量化。 昇腾模型压缩工具是基于深度学习框架进行开发的,在执行量化过程中需要调用深度学习框架进行必要的推理过程。 |
(后续处理)量化后模型的推理 |
借助CANN软件包提供的ATC工具,将压缩后的.pb模型转换成适配昇腾AI处理器的离线模型。使用转换后的离线模型,在昇腾AI处理器完成推理业务。 |
父主题: 概述