GetMaxOutputLen接口
接口功能
获取最大输出长度。
接口格式
uint32_t GetMaxOutputLen() const
接口参数
无。
使用样例
mindie_llm::InferRequestId runtimeReqId(0); std::shared_ptr<mindie_llm::InferRequest> runtimeRequest(runtimeReqId); uint32_t maxOutputLen = 1; Status ret = runtimeRequest->SetMaxOutputLen(maxOutputLen); uint32_t maxOutputLen1 = runtimeRequest->GetMaxOutputLen();
返回值
返回请求最大输出长度 类型为uint32_t。
父主题: InferRequest