KvCacheManager简介

提供一系列接口用于操作KvCache。KvCacheManager的实例应该通过kv_cache_manager返回。