Init接口

接口功能

推理引擎Engine的初始化函数，用户在声明engine后，需调用Init函数对InferenceEngine初始化。

该函数需与Finalize()成对使用。

接口格式

Status Init(const SendResponseCallback &callback = nullptr, const std::string &configPath = "");

接口参数

参数

是否必选

说明

取值要求

callback

必选

推理回调函数。

合法的回调函数。

configPath

必选

配置文件地址。

合法地址字符串。

使用样例

初始化读写输入组件。声明response回调函数，以及配置文件路径。

声明推理引擎对象，并进行初始化。

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
20
21
const std::string dataset = "token_input_gsm.csv";
IOManager manager(dataset); // IOManager 输入输出读写（请按需求完善）

int requestNum = 0;
volatile int completeNum = 0;

// 创建engine实例
 void ResponseCallback(std::shared_ptr<InferenceResponse> &response) {
    InferenceResponse::Output *output;
    response->ImmutableOutput("OUTPUT_IDS", &output);
    manager.SetOutputData(response->GetRequestId().StringValue());

    if (response->IsEOS()) {
        completeNum++;
    }
};

std::string configPath = "${path_to_config}";

InferenceEngine engine();
engine.Init(ResponseCallback, configPath); // 初始化engine

返回值

初始化状态。

父主题： InferenceEngine