GetRequestInner接口

接口功能

获取InferRequestImpl对象。

接口格式

 std::shared_ptr<InferRequestImpl> GetRequestInner() const

接口参数

无。

使用样例

获取请求中指向InferRequestImpl的指针对象。

1
2
3
mindie_llm::InferRequestId runtimeReqId(0);
std::shared_ptr<mindie_llm::InferRequest> runtimeRequest(runtimeReqId);
std::shared_ptr<InferRequestImpl> request = runtimeRequest->GetRequestInner();

返回值

指向InferRequestImpl的指针对象。