结构体和枚举说明
SamplingParams结构体
Compare结构体
DataType枚举类
LLMENGINE_memorytype_enum枚举
LLM_ENGINE_DataType_enum枚举
LLM_ENGINE_parametertype_enum枚举
InferResponseEndFlag枚举
Code枚举类
Operation枚举类
NodeHealthStatus枚举类
父主题：
Infer Engine API参考（C++）