自动(通道稀疏)搜索简易配置文件说明

自动通道稀疏搜索的相关配置说明存在于basic_info.proto文件中,该文件所在目录为:昇腾模型压缩工具安装目录/amct_tensorflow/proto/basic_info.proto。文件内容如下所示:

消息

是否必填

类型

字段

说明

AutoChannelPruneConfig

-

-

-

昇腾模型压缩工具自动通道稀疏搜索简易配置。

required

float

compress_ratio

压缩率。以所有可量化层的计算量为基准压缩的倍数。

optional

bool

ascend_optimized

是否做昇腾亲和优化,如果稀疏后的模型要部署在昇腾AI处理器上,建议此项配置为true。

optional

float

max_prune_ratio

单层最大稀疏率,限定接口输出的稀疏配置中稀疏率的最大值,默认为1。

optional

int64

test_iteration

输入测试数据的batch数量。

optional

string

override_prune_cfg

用户配置的指定通道稀疏简易配置文件,仅允许包含skip与override配置,配置的层将沿用指定的配置,不会被自动通道稀疏搜索接口重写。

基于该文件构造的自动通道稀疏搜索简易配置文件amc.cfg样例如下所示:

compress_ratio: 1.5
ascend_optimized: true
max_prune_ratio: 0.8
test_iteration: 1
override_prune_cfg: 'your/path/to/override_channel_prune.cfg'