InferRequestId(request_index)接口

接口功能

构造函数,根据序列request_index值作为唯一序列号的创建请求体对象。

C++函数原型

explicit InferRequestId(uint64_t requestIndex);

Python函数

InferRequestId(request_index)

接口参数

参数

是否必选

说明

取值要求

request_index

非必选

推理请求对象的唯一序列号,uint64类型的。

合法的符合C++ uint64类型范围的int类型请求序列号。

使用样例

构造函数,通过整型ID构造请求对象。

1
request_id = llm_manager_python.InferRequestId(123)