异步执行请求推理。
def async_forward(self, request: Request) -> Status
参数 |
是否必选 |
说明 |
取值要求 |
---|---|---|---|
request |
必选 |
推理请求。 |
确保有效请求格式。 |
from sdk.engine import Engine engine = Engine() status = engine.async_forward(request)
请求forward的结果。