SetMaxOutputLen接口
接口功能
设置最大输出长度。
接口格式
Status SetMaxOutputLen(uint32_t maxOutputLen)
接口参数
参数 |
是否必选 |
说明 |
取值要求 |
|---|---|---|---|
maxOutputLen |
是 |
最大输出长度。 |
uint32_t类型。 |
使用样例
构造一个请求对象，给一个请求对象设置最大输出长度。
1 2 3 4 | mindie_llm::InferRequestId runtimeReqId(0); std::shared_ptr<mindie_llm::InferRequest> runtimeRequest(runtimeReqId); uint32_t maxOutputLen = 1; Status ret = runtimeRequest->SetMaxOutputLen(maxOutputLen); |
返回值
Status对象。
父主题： InferRequest