LLMENGINE_memorytype_enum枚举
枚举功能
内存类型枚举。
枚举格式
typedef enum LLMENGINE_memorytype_enum {
LLMENGINE_MEMORY_CPU,
LLMENGINE_MEMORY_CPU_PINNED,
LLMENGINE_MEMORY_GPU
} LLM_ENGINE_MemoryType;
枚举值
枚举名 |
说明 |
|---|---|
LLMENGINE_MEMORY_CPU |
表示内存位于CPU上。 |
LLMENGINE_MEMORY_CPU_PINNED |
表示内存位于CPU上并且是固定的（pinned），即不能被交换到磁盘，这种内存通常用于需要快速且一致的访问速度的情况。 |
LLMENGINE_MEMORY_GPU |
表示内存位于GPU上。 |
父主题： 结构体和枚举说明