---
title: kv_cache_manager
description: "| 产品 | 是否支持 |"
url: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmpr_42_0010.html
sourcePath: /source/zh/canncommercial/900/others/llmdatadistdev/llmpr_42_0010.html
indexId: 19c56374160c863b2181add02ba5fb0a0fb36debfea8d11049a3bc9bb4ee4b1770
---
# kv_cache_manager

#### 产品支持情况

| 产品 | 是否支持 |
| --- | --- |
| Atlas 350 加速卡 | x |
| Atlas A3 训练系列产品 / Atlas A3 推理系列产品 | √ |
| Atlas A2 训练系列产品 / Atlas A2 推理系列产品 | √ |
| Atlas 200I/500 A2 推理产品 | x |
| Atlas 推理系列产品 | x |
| Atlas 训练系列产品 | x |


说明：针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ，仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。


#### 函数功能

获取KvCacheManager实例。


#### 函数原型

```
kv_cache_manager()
```


#### 参数说明

无


#### 调用示例

```
from llm_datadist import LLMDataDist, LLMRole
llm_datadist = LLMDataDist(LLMRole.DECODER, 0)
llm_datadist.init(engine_options)
kv_cache_manager = llm_datadist.kv_cache_manager
```


#### 返回值

返回KvCacheManager实例。


#### 约束说明

无