run_quantize
功能说明
模型量化接口，对用户提供的模型根据配置的量化参数进行量化，并保存量化后模型。
函数原型
run_quantize(input_model_path, output_model_path, quant_config)
参数说明
参数名 |
输入/返回值 |
含义 |
使用限制 |
|---|---|---|---|
input_model_path |
输入 |
待量化模型存放路径和文件名。 |
必选。 数据类型：String。 |
output_model_path |
输入 |
量化后的模型的存放路径和文件名。 |
必选。 数据类型：String。 |
quant_config |
输入 |
根据QuantConfig生成的量化配置实例。 |
必选。 数据类型：QuantConfig。 |
调用示例
from msmodelslim.onnx.post_training_quant import QuantConfig, run_quantize
def custom_read_data():
calib_data = []
# TODO 读取数据集，进行数据预处理，将数据存入calib_data
return calib_data
calib_data = custom_read_data()
quant_config = QuantConfig(calib_data=calib_data, amp_num=5)
input_model_path="/home/xxx/Resnet50/resnet50_pytorch.onnx" #根据实际路径配置
output_model_path="/home/xxx/Resnet50/resnet50_quant.onnx" #根据实际情况配置
run_quantize(input_model_path,output_model_path,quant_config)