IsDecodeReq接口
接口功能
请求是否是Decode类型。
接口格式
bool IsDecodeReq() const;
接口参数
无。
使用样例
mindie_llm::InferRequestId runtimeReqId(0); std::shared_ptr<mindie_llm::InferRequest> runtimeRequest(runtimeReqId); runtimeRequest->SetReqType(mindie_llm::InferReqType::REQ_STAND_INFER); bool isDecode = runtimeRequest->IsDecodeReq();
返回值
bool值。
父主题: InferRequest