Init接口

接口功能

推理引擎Engine的初始化函数，用户在声明engine后，需调用Init函数对InferenceEngine初始化。

该函数需与Finalize()成对使用。

接口格式

Status Init(const SendResponseCallback &callback = nullptr, const std::string &configPath = "");

接口参数

使用样例

const std::string dataset = "token_input_gsm.csv";
IOManager manager(dataset);

int requestNum = 0;
volatile int completeNum = false;

// 创建engine实例
auto engineConfig = GetEngineConfig();
engineConfig.response_callback = [&manager, &completeNum](std::shared_ptr<InferenceResponse> &response) {
    InferenceResponse::Output *output;
    response->ImmutableOutput("OUTPUT_IDS", &output);
    manager.SetOutputData(response->GetRequestId().StringValue());

    if (response->IsEOS()) {
        completeNum++;
    }
};

InferenceEngine engine(engineConfig);
engine.Init(GetModelConfig(), GetLoaderConfig()); // 初始化engine

返回值

初始化状态。

• SUCCESS：初始化成功。
• 否则初始化失败，并返回失败原因。