基于Torch API的record记录文件

record文件，为基于protobuf协议的序列化数据结构文件，记录量化场景量化因子Scale/Offset，通过该文件、压缩配置文件以及原始网络模型文件，生成压缩后的模型文件。

record原型定义

该文件与record记录文件区别是：本章节内容仅适用于基于Torch API训练后量化特性；而record记录文件适用于除去基于Torch API训练后量化特性的其他特性，比如量化感知训练，稀疏等。

record文件对应的protobuf原型定义为（或查看AMCT安装目录/amct_pytorch/proto/post_quant_record_pytorch.proto文件）：

syntax = "proto2";
import "amct_pytorch/proto/basic_info.proto";
package AMCTPytorchRecordProto;

message SingleLayerRecord {
    repeated float scale_d = 1;
    repeated float scale_w = 2;
    optional string act_type = 11;
    optional string wts_type = 12;
    optional string round_mode = 21;
}

message MapFiledEntry {
    optional string key = 1;
    optional SingleLayerRecord value = 2;
}

message ScaleOffsetRecord {
    repeated MapFiledEntry record = 1;
}

参数说明如下：

消息	是否必填	类型	字段	说明
SingleLayerRecord	-	-	-	包含了量化层所需要的所有量化因子记录信息。
	optional	float	scale_d	数据量化scale因子，仅支持对数据进行统一量化。
	repeated	float	scale_w	权重量化scale因子，支持标量（对当前层的权重进行统一量化），向量（对当前层的权重按channel_wise方式进行量化）两种模式，仅支持Conv2d类型进行channel_wise量化模式。
	optional	string	act_type	数据量化位宽，支持FP8_E4M3/HiF8两种类型。
	optional	string	wts_type	权重量化位宽，支持FP8_E4M3/HiF8两种类型。
	optional	string	round_mode	数据类型舍入模式，支持如下几种方式： HYBRID：单独为HiF8提出的数据舍入模式。 ROUND：Round to nearest, tie away from zero，仅HiF8支持。四舍五入到最接近的值，如果数字落在中间，则四舍五入到最接近的值以上（对于正数）或以下（对于负数）。 RINT：Round to nearest, tie to Even：仅FP8支持。四舍五入到最近偶数，如果数字落在中间，则四舍五入到具有偶数最低有效位数的最接近值。
MapFiledEntry	optional	string	key	层名。
MapFiledEntry	optional	SingleLayerRecord	value	量化因子配置。
ScaleOffsetRecord	-	-	-	map结构，为保证兼容性，采用离散的map结构。
ScaleOffsetRecord	repeated	MapFiledEntry	record	每个record对应一个量化层的量化因子记录；record包括两个成员： key为所记录量化层的layer name。 value对应SingleLayerRecord定义的具体量化因子。

record记录文件

最终生成的record文件格式为record.txt，文件示例如下。

record {
  key: "linear_1"
  value {
    scale_d: 0.03125
    scale_w: 0.03125
    act_type: "FLOAT8_E4M3FN"
    wts_type: "FLOAT8_E4M3FN"
    round_mode: "RINT"
  }
}
record {
  key: "conv_1"
  value {
    scale_d: 0.03125
    scale_w: 0.03125
    act_type: "FLOAT8_E4M3FN"
    wts_type: "FLOAT8_E4M3FN"
    round_mode: "RINT"
  }
}

父主题： 参考信息