aclgrphCalibration

函数功能

将非量化Graph自动修改为量化后的Graph。

函数原型

graphStatus aclgrphCalibration(ge::Graph &graph, const std::map<AscendString, AscendString> &quantizeConfigs)

参数说明

参数名

输入/输出

描述

graph

输入

待修改的用户原始Graph。

quantizeConfigs

输入

map表,key为参数类型,value为参数值,均为字符串格式,描述执行接口所需要的配置选项。具体配置参数如下所示:

  1. INPUT_DATA_DIR:必填,用于计算量化因子的数据bin文件路径,建议传入不少于一个batch的数据。如果模型有多个输入,则输入数据文件以英文逗号分隔。
  2. INPUT_SHAPE:必填,输入数据的shape。例如:"input_name1:n1,c1,h1,w1;input_name2:n2,c2,h2,w2"。指定的节点必须放在双引号中,节点中间使用英文分号分隔。input_name必须是Graph中的节点名称。
  3. SOC_VERSION:必填,执行的soc型号。

    昇腾310 AI处理器参数值:Ascend310

    昇腾310P AI处理器参数值:Ascend310P*

    昇腾910 AI处理器参数值:Ascend910*

  4. INPUT_FORMAT:选填,输入数据的排布格式,支持"NCHW", "NHWC", "ND"。
  5. INPUT_FP16_NODES:选填,指定输入数据类型为FP16的输入节点名称。
  6. CONFIG_FILE:选填,用于配置高级选项的配置文件路径,该参数可以参见AMCT工具(AscendCL接口方式)对应参数--calibration_config。
  7. LOG_LEVEL:选填,日志级别,支持debug,info,warning,error。
  8. OUT_NODES:选填,用户Graph的输出节点名。
  9. DEVICE_ID:选填,指定设备ID,默认为0。
    • 昇腾310 AI处理器,支持配置该参数。
    • 昇腾910 AI处理器,支持该配置参数。
    • 昇腾310P AI处理器,支持该配置参数。
  10. IP_ADDR:指定NCS所在服务器的IP地址。
    • 昇腾310 AI处理器,不支持配置该参数。
    • 昇腾910 AI处理器,不支持该配置参数。
    • 昇腾310P AI处理器,不支持该配置参数。
  11. PORT:指定NCS所在服务器监听端口。
    • 昇腾310 AI处理器,不支持配置该参数。
    • 昇腾910 AI处理器,不支持该配置参数。
    • 昇腾310P AI处理器,不支持该配置参数。

返回值

参数名

类型

描述

-

graphStatus

SUCCESS:图修改成功。

其他:修改失败

约束说明

芯片支持情况

昇腾310 AI处理器,支持该接口。

昇腾910 AI处理器,支持该接口。

昇腾310P AI处理器,支持该接口。