AMCT工具(Caffe)
- 快速入门
本章节以压缩特性中的量化功能为例,并借助sample中ResNet-50网络模型,为您介绍如何使用命令行方式压缩一个模型。
- 概述
- 工具安装
- 量化
- 张量分解
张量分解通过分解卷积核的张量,将一个卷积转化成两个小卷积的堆叠来降低推理开销,如用户模型中存在大量卷积,且卷积核shape普遍大于(64, 64, 3, 3)时推荐使用张量分解。
- 获取更多样例
本节给出AMCT所有压缩特性的样例列表,用户可以根据具体要使用的功能,单击链接获取样例代码,也可以参见其中的README_CN.md运行样例。
- 扩展更多特性(模型适配)
如果用户有自己计算得到的量化因子以及Caffe原始模型,该模型无法直接使用ATC工具转成适配昇腾AI处理器的离线模型,需要借助该章节提供的功能,将其转成CANN量化模型格式,然后才能使用ATC工具,将CANN量化模型转成适配昇腾AI处理器的离线模型。
- 命令行参数说明
- Python API接口说明
- FAQ
- 附录