sync_forward(self, request: Request)

接口功能

同步执行请求推理。

接口格式

def sync_forward(self, request: Request) -> Tuple[Status, ResponseInfo]

接口参数

使用样例

from sdk.engine import Engine
engine = Engine()
status, request_info = engine.sync_forward(request)

返回值

• 请求forward的结果。
  • Status(Code.OK)：操作成功。
  • Status(Code.ERROR)：操作失败。
  • Status(Code.INVALID_ARG)：非法参数。
  • Status(Code.NOT_FOUND)：无法找到指定操作。
• 请求信息。
  • responseTimes：每次响应时间。
  • batchSize：batch大小。
  • startTime：开始forward时间。
  • queueWaitTime：请求队列等待时间。
  • endFlag：请求结束符。