preprocess_func_coco
功能说明
对图像进行预处理的函数,主要对COCO数据集进行预处理,会将图像文件读入内存,将其调整为指定的高度和宽度,然后将其转换为浮点数类型,并将像素值归一化到0到1之间,返回指定批次大小的图像数据。
函数原型
preprocess_func_coco(data_path, height=320, width=320, batch_size=1)
参数说明
参数名  | 
输入/返回值  | 
含义  | 
使用限制  | 
|---|---|---|---|
data_path  | 
输入  | 
待处理数据集所在路径。  | 
必选。 数据类型:String。  | 
height  | 
输入  | 
图片高度。  | 
可选,默认为320。 数据类型:int。 取值范围:大于0的整数。  | 
width  | 
输入  | 
图片宽度。  | 
可选,默认为320。 数据类型:int。 取值范围:大于0的整数。  | 
batch_size  | 
输入  | 
表示每个batch使用的图片数量。  | 
可选,默认为1。 数据类型:int。 取值范围:大于0的整数。  | 
调用示例
from msmodelslim.onnx.post_training_quant import QuantConfig
from msmodelslim.onnx.post_training_quant.label_free.preprocess_func import preprocess_func_coco
calib_data = preprocess_func_coco("./test/")
quant_config = QuantConfig(calib_data = calib_data, amp_num = 5)