IsFlexLocalReq接口

接口功能

判断请求是否为flex节点本地处理的请求类型。

接口格式

bool IsFlexLocalReq() const;

接口参数

无。

使用样例

首先构造一个请求对象，然后为该请求对象设置请求类型，最后获取该请求是否为Decode请求。

mindie_llm::InferRequestId runtimeReqId(0);
std::shared_ptr<mindie_llm::InferRequest> runtimeRequest(runtimeReqId);
runtimeRequest->SetReqType(mindie_llm::InferReqType::REQ_FLEX_LOCAL);
bool isDecode = runtimeRequest->IsFlexLocalReq();

返回值

bool类型。

父主题： InferRequest