Placement 表示Cache所在位置,通常作为CacheDesc的placement参数的类型。 枚举值 含义 HOST 表示设备是host。 DEVICE 表示设备是device。 父主题: LLM DataDist接口 (Python)