自动通道稀疏搜索简易配置文件
自动通道稀疏搜索的相关配置说明存在于basic_info.proto文件中,该文件所在目录为:AMCT安装目录/amct_pytorch/proto/basic_info.proto。
消息 |
是否必填 |
类型 |
字段 |
说明 |
|---|---|---|---|---|
AutoChannelPruneConfig |
- |
- |
- |
AMCT自动通道稀疏搜索简易配置。 |
required |
float |
compress_ratio |
压缩率。以所有可量化层的计算量为基准压缩的倍数。 |
|
optional |
bool |
ascend_optimized |
是否做昇腾亲和优化,如果稀疏后的模型要部署在AI处理器上,建议此项配置为true。 |
|
optional |
float |
max_prune_ratio |
单层最大稀疏率,限定接口输出的稀疏配置中稀疏率的最大值,默认为1。 |
|
optional |
int64 |
test_iteration |
输入测试数据的batch数量。 |
|
optional |
string |
override_prune_cfg |
用户配置的指定通道稀疏简易配置文件,仅允许包含skip与override配置,配置的层将沿用指定的配置,不会被自动通道稀疏搜索接口重写。 |
|
AttrProto |
- |
- |
- |
通用的属性定义消息,用于存储不同类型的属性值。 |
AttrType |
- |
- |
属性类型枚举,决定使用哪个字段存储值。 |
|
- |
- |
UNDEFINED |
未定义类型。 |
|
- |
- |
FLOAT |
单个浮点数。 |
|
- |
- |
INT |
单个整数。 |
|
- |
- |
STRING |
单个字符串。 |
|
- |
- |
FLOATS |
浮点数数组。 |
|
- |
- |
INTS |
整数数组。 |
|
- |
- |
STRINGS |
字符串数组。 |
|
optional |
string |
name |
属性名。 |
|
optional |
AttrType |
type |
属性类型(使用AttrType枚举)。 |
|
optional |
float |
f |
浮点数值(当type为FLOAT时使用)。 |
|
optional |
int64 |
i |
整数值(当type为INT时使用)。 |
|
optional |
bytes |
s |
字符串值(当type为STRING时使用)。 |
|
repeated |
float |
floats |
浮点数数组(当type为FLOATS时使用)。 |
|
repeated repeated |
int64 bytes |
ints strings |
整数数组(当type为INTS时使用)。 字符串数组(当type为STRINGS时使用)。 |
基于该文件构造的自动通道稀疏简易配置文件amc.cfg样例如下所示:
compress_ratio: 1.5 ascend_optimized: true max_prune_ratio: 0.8 test_iteration: 1 override_prune_cfg: 'your/path/to/override_channel_prune.cfg'