函数功能
将非量化Graph自动修改为量化后的Graph。
函数原型
graphStatus aclgrphCalibration(ge::Graph &graph, const std::map<AscendString, AscendString> &quantizeConfigs)
参数说明
参数名 |
输入/输出 |
描述 |
graph |
输入 |
待修改的用户原始Graph。 |
quantizeConfigs |
输入 |
map表,key为参数类型,value为参数值,均为字符串格式,描述执行接口所需要的配置选项。具体配置参数如下所示:
- INPUT_DATA_DIR:必填,用于计算量化因子的数据bin文件路径,建议传入不少于一个batch的数据。如果模型有多个输入,则输入数据文件以英文逗号分隔。
- INPUT_SHAPE:必填,输入数据的shape。例如:"input_name1:n1,c1,h1,w1;input_name2:n2,c2,h2,w2"。指定的节点必须放在双引号中,节点中间使用英文分号分隔。input_name必须是Graph中的节点名称。
- SOC_VERSION:必填,执行的soc型号。
昇腾310 AI处理器参数值:Ascend310 昇腾310P AI处理器参数值:Ascend310P* 昇腾910 AI处理器参数值:Ascend910*
- INPUT_FORMAT:选填,输入数据的排布格式,支持"NCHW", "NHWC", "ND"。
- INPUT_FP16_NODES:选填,指定输入数据类型为FP16的输入节点名称。
- CONFIG_FILE:选填,用于配置高级选项的配置文件路径,该参数可以参见《AMCT工具(AscendCL接口方式)》对应参数--calibration_config。
- LOG_LEVEL:选填,日志级别,支持debug,info,warning,error。
- OUT_NODES:选填,用户Graph的输出节点名。
- DEVICE_ID:选填,指定设备ID,默认为0。
- 昇腾310 AI处理器,支持配置该参数。
- 昇腾910 AI处理器,支持该配置参数。
- 昇腾310P AI处理器,支持该配置参数。
- IP_ADDR:指定NCS所在服务器的IP地址。
- 昇腾310 AI处理器,不支持配置该参数。
- 昇腾910 AI处理器,不支持该配置参数。
- 昇腾310P AI处理器,不支持该配置参数。
- PORT:指定NCS所在服务器监听端口。
- 昇腾310 AI处理器,不支持配置该参数。
- 昇腾910 AI处理器,不支持该配置参数。
- 昇腾310P AI处理器,不支持该配置参数。
|
返回值
参数名 |
类型 |
描述 |
- |
graphStatus |
SUCCESS:图修改成功。 其他:修改失败 |
约束说明
- 对于已经被插入量化算子的Graph不支持进行量化。
- 当前仅支持对Conv2D、DepthwiseConv2D、FullyConnection、MatMulV2算子进行量化修改。
芯片支持情况
昇腾310 AI处理器,支持该接口。
昇腾910 AI处理器,支持该接口。
昇腾310P AI处理器,支持该接口。