InferRequest接口

接口功能

构造函数。

C++函数原型

explicit InferRequest(InferRequestId requestId);

Python函数

InferRequest(request_id)

接口参数

参数

是否必选

说明

取值要求

request_id

是

请求ID。

合法的InferRequestId类型，请参考InferRequestId。

使用样例

通过字符串ID，初始化构造推理请求ID和推理请求。

1
2
3
id = '123'
request_id = llm_manager_python.InferRequestId(id)
infer_request = llm_manager_python.InferRequest(request_id)
父主题： InferRequest