InferRequestId(request_index)接口
接口功能
构造函数，根据序列request_index值作为唯一序列号的创建请求体对象。
C++函数原型
explicit InferRequestId(uint64_t requestIndex);
Python函数
InferRequestId(request_index)
接口参数
参数 |
是否必选 |
说明 |
取值要求 |
|---|---|---|---|
request_index |
非必选 |
推理请求对象的唯一序列号，uint64类型的。 |
合法的符合C++ uint64类型范围的int类型请求序列号。 |
使用样例
request_id = llm_manager_python.InferRequestId(123)
父主题： InferRequestId