开发者
资源

自动通道稀疏搜索简易配置文件

自动通道稀疏搜索的相关配置说明存在于basic_info.proto文件中,该文件所在目录为:AMCT安装目录/amct_pytorch/proto/basic_info.proto。

消息

是否必填

类型

字段

说明

AutoChannelPruneConfig

-

-

-

AMCT自动通道稀疏搜索简易配置。

required

float

compress_ratio

压缩率。以所有可量化层的计算量为基准压缩的倍数。

optional

bool

ascend_optimized

是否做昇腾亲和优化,如果稀疏后的模型要部署在AI处理器上,建议此项配置为true。

optional

float

max_prune_ratio

单层最大稀疏率,限定接口输出的稀疏配置中稀疏率的最大值,默认为1。

optional

int64

test_iteration

输入测试数据的batch数量。

optional

string

override_prune_cfg

用户配置的指定通道稀疏简易配置文件,仅允许包含skip与override配置,配置的层将沿用指定的配置,不会被自动通道稀疏搜索接口重写。

AttrProto

-

-

-

通用的属性定义消息,用于存储不同类型的属性值。

AttrType

-

-

属性类型枚举,决定使用哪个字段存储值。

-

-

UNDEFINED

未定义类型。

-

-

FLOAT

单个浮点数。

-

-

INT

单个整数。

-

-

STRING

单个字符串。

-

-

FLOATS

浮点数数组。

-

-

INTS

整数数组。

-

-

STRINGS

字符串数组。

optional

string

name

属性名。

optional

AttrType

type

属性类型(使用AttrType枚举)。

optional

float

f

浮点数值(当type为FLOAT时使用)。

optional

int64

i

整数值(当type为INT时使用)。

optional

bytes

s

字符串值(当type为STRING时使用)。

repeated

float

floats

浮点数数组(当type为FLOATS时使用)。

repeated

repeated

int64

bytes

ints

strings

整数数组(当type为INTS时使用)。

字符串数组(当type为STRINGS时使用)。

基于该文件构造的自动通道稀疏简易配置文件amc.cfg样例如下所示:

compress_ratio: 1.5
ascend_optimized: true
max_prune_ratio: 0.8
test_iteration: 1
override_prune_cfg: 'your/path/to/override_channel_prune.cfg'