---
title: allocate_blocks_cache
description: "| 产品 | 是否支持 |"
url: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmprv2_42_0075.html
sourcePath: /source/zh/canncommercial/900/API/hixlug/llmprv2_42_0075.html
indexId: 807db9afc88870e7b41b1ed70ffeb53a5d96b2cbd66abce5f8482ec476b6a77361
---
# allocate_blocks_cache

#### 产品支持情况

| 产品 | 是否支持 |
| --- | --- |
| Atlas 350 加速卡 | x |
| Atlas A3 训练系列产品 / Atlas A3 推理系列产品 | √ |
| Atlas A2 训练系列产品 / Atlas A2 推理系列产品 | √ |
| Atlas 200I/500 A2 推理产品 | x |
| Atlas 推理系列产品 | x |
| Atlas 训练系列产品 | x |


说明：针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ，仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。


#### 函数功能

PagedAttention场景下，分配多个blocks的Cache，Cache分配成功后，可通过deallocate_blocks_cache释放内存。


#### 函数原型

```
allocate_blocks_cache(cache_desc: CacheDesc, blocks_cache_key: Optional[BlocksCacheKey] = None)
```


#### 参数说明

| 参数名称 | 数据类型 | 取值说明 |
| --- | --- | --- |
| cache\_desc | CacheDesc | Cache的描述。 |
| blocks\_cache\_key | Optional[BlocksCacheKey] | 索引一个blocks cache。 |


#### 调用示例

```
from llm_datadist import *
blocks_cache_key = BlocksCacheKey(1, 0)
blocks_cache = cache_manager.allocate_blocks_cache(cache_desc, blocks_cache_key)
```


#### 返回值

正常情况下返回Cache。

传入数据类型错误情况下会抛出TypeError或ValueError异常。

执行时间超过sync_kv_timeout配置会抛出LLMException异常。


#### 约束说明

需要先配置内存池才能使用。
