特性入口:$HOME/.local/lib/python3.x/site-packages/amct_pytorch/cli/llm/extract_ptq_data.py 特性介绍:该入口用来提取PTQ校准数据,流程如下:加载校准数据:加载Pileval校准样本。 执行推理:执行Embedding编码及逐Block的前向传播。 采集中间数据:在指定的Hook位置捕获PTQ所需的输入(Input)、关键字参数(Kwargs)等中间数据,供后续PTQ流程使用。 特性输出:--data_dir下的block/unit 输入、kwargs等PTQ数据。 约束:--quant_target参数必须且仅