内存类型枚举。
typedef enum LLMENGINE_memorytype_enum {
LLMENGINE_MEMORY_CPU,
LLMENGINE_MEMORY_CPU_PINNED,
LLMENGINE_MEMORY_GPU
} LLM_ENGINE_MemoryType;
参数 |
参数类型 |
说明 |
取值要求 |
|---|---|---|---|
LLMENGINE_MEMORY_CPU |
枚举值 |
表示内存位于CPU上。 |
0 |
LLMENGINE_MEMORY_CPU_PINNED |
枚举值 |
表示内存位于CPU上并且是固定的（pinned），即不能被交换到磁盘，这种内存通常用于需要快速且一致的访问速度的情况。 |
1 |
LLMENGINE_MEMORY_GPU |
枚举值 |
表示内存位于GPU上。 |
2 |