deallocate_blocks_cache

产品支持情况

产品

是否支持

Atlas 800I A2 推理产品/A200I A2 Box 异构组件

Atlas A2 训练系列产品

x

Atlas 200I/500 A2 推理产品

x

Atlas 推理系列产品

x

Atlas 训练系列产品

x

函数功能

PagedAttention场景下,释放allocate_blocks_cache申请的Cache。

函数原型

1
deallocate_blocks_cache(cache: Cache)

参数说明

参数名称

数据类型

取值说明

cache

Cache

需要释放的Cache。

调用示例

1
2
3
from llm_datadist import BlocksCacheKey
...
cache_manager.deallocate_blocks_cache(blocks_cache)

返回值

正常情况下无返回值。

传入数据类型错误情况下会抛出TypeError或ValueError异常。

执行时间超过sync_kv_timeout配置会抛出LLMException异常。

约束说明