InferenceRequest接口

接口功能

创建InferenceRequest对象。

接口格式

explicit InferenceRequest(const RequestId &reqId);
InferenceRequest() = delete;

接口参数

参数

是否必选

说明

取值要求

reqId

必选

推理请求对象，请求之间的唯一标识。

合法的请求对象，请参考RequestId。

使用样例

通过RequestId类，初始化请求对象，并为请求对象增加输入数据。

1
2
3
4
5
6
int reqId = 0;
InferenceRequest *request(RequestId(reqId));
InferenceRequest::Input *input;
data_size = 10;
std::vector<int64_t> shape({1, data_size});
request->AddOriginalInput("INPUT_IDS", TYPE_INT64, &shape[0], shape.size(), &input);

返回值

InferenceRequest对象。

父主题： InferenceRequest