InferReqType枚举类
枚举类功能
InferReqType枚举类,表示请求的类型。
枚举类格式
enum class InferReqType {
REQ_STAND_INFER = 0,
REQ_PREFILL = 1,
REQ_DECODE = 2,
REQ_FLEX_LOCAL = 3
};
枚举值
枚举名 |
说明 |
|---|---|
REQ_STAND_INFER |
正常 |
REQ_PREFILL |
正常 |
REQ_DECODE |
正常 |
REQ_FLEX_LOCAL |
正常 |
父主题: 结构体和枚举说明