PagedAttention场景下,释放allocate_blocks_cache申请的Cache。
deallocate_blocks_cache(cache: Cache)
参数名称
数据类型
取值说明
cache
Cache
需要释放的Cache。
1 2 3
from llm_datadist import BlocksCacheKey ... cache_manager.deallocate_blocks_cache(blocks_cache)
正常情况下无返回值。
传入数据类型错误情况下会抛出TypeError或ValueError异常。
执行时间超过sync_kv_timeout配置会抛出LLMException异常。
无。