run()

功能说明

运行量化算法，初始化Calibrator后通过run()函数来执行量化。

函数原型

calibrator.run()

调用示例

from msmodelslim.mindspore.llm_ptq import Calibrator, QuantConfig
quant_config = QuantConfig()
model = Model()   #根据实际应用场景加载模型
calibrator = Calibrator(model=model, cfg=quant_config, calib_data=dataset_calib, model_ckpt="./model.ckpt")
calibrator.run() 
calibrator.save(qaunt_weight_save_path)