自动通道稀疏搜索的相关配置说明存在于basic_info.proto文件中,该文件所在目录为:昇腾模型压缩工具安装目录/amct_tensorflow/proto/basic_info.proto。文件内容如下所示:
消息 |
是否必填 |
类型 |
字段 |
说明 |
---|---|---|---|---|
AutoChannelPruneConfig |
- |
- |
- |
昇腾模型压缩工具自动通道稀疏搜索简易配置。 |
required |
float |
compress_ratio |
压缩率。以所有可量化层的计算量为基准压缩的倍数。 |
|
optional |
bool |
ascend_optimized |
是否做昇腾亲和优化,如果稀疏后的模型要部署在昇腾AI处理器上,建议此项配置为true。 |
|
optional |
float |
max_prune_ratio |
单层最大稀疏率,限定接口输出的稀疏配置中稀疏率的最大值,默认为1。 |
|
optional |
int64 |
test_iteration |
输入测试数据的batch数量。 |
|
optional |
string |
override_prune_cfg |
用户配置的指定通道稀疏简易配置文件,仅允许包含skip与override配置,配置的层将沿用指定的配置,不会被自动通道稀疏搜索接口重写。 |
基于该文件构造的自动通道稀疏搜索简易配置文件amc.cfg样例如下所示:
compress_ratio: 1.5 ascend_optimized: true max_prune_ratio: 0.8 test_iteration: 1 override_prune_cfg: 'your/path/to/override_channel_prune.cfg'