InferReqType枚举类

枚举类功能

InferReqType枚举类,表示请求的类型。

枚举类格式

enum class InferReqType {
    REQ_STAND_INFER = 0,
    REQ_PREFILL = 1,
    REQ_DECODE = 2
};

枚举值

枚举名

说明

REQ_STAND_INFER

正常

REQ_PREFILL

正常

REQ_DECODE

正常