--calibration_config
功能说明
训练后量化简易配置文件路径与文件名。
如果用户自己构造了训练后量化简易配置文件:即用户自行决定哪些层进行量化,哪些层不量化,则需要使用该参数。
关联参数
该参数不能与--batch_num参数同时使用。
参数取值
参数值:量化简易配置文件路径与文件名。
参数值约束:路径和文件名:支持大小写字母(a-z,A-Z)、数字(0-9)、下划线(_)、中划线(-)、句点(.)、中文字符。
参数默认值:None
推荐配置及收益
无。
示例
--calibration_config=./config.cfg
文件样例如下所示,参数说明请参见表1。(如下文件中的所有参数取值都为示例,请根据实际情况进行修改)
# global quantize parameter
batch_num : 2
activation_offset : true
skip_layers : "layer1.1.conv2"
skip_layer_types:"Conv"
do_fusion: true
skip_fusion_layers : "layer1.1.conv2"
common_config : {
arq_quantize : {
channel_wise : true
}
ifmr_quantize : {
search_range_start : 0.7
search_range_end : 1.3
search_step : 0.01
max_percentile : 0.999999
min_percentile : 0.999999
}
}
override_layer_types : {
layer_type : "Gemm"
calibration_config : {
arq_quantize : {
channel_wise : false
}
ifmr_quantize : {
search_range_start : 0.8
search_range_end : 1.2
search_step : 0.02
max_percentile : 0.999999
min_percentile : 0.999999
}
}
}
使用约束
该参数只在训练后量化场景使用。
父主题: 可选参数