---
title: copy_cache
description: "| 产品 | 是否支持 |"
url: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmprv2_42_0074.html
sourcePath: /source/zh/canncommercial/900/API/hixlug/llmprv2_42_0074.html
indexId: a1117fc4bade83533d1828681b9e48e089c511d4af3037148b9a8354b7a1850b61
---
# copy_cache

#### 产品支持情况

| 产品 | 是否支持 |
| --- | --- |
| Atlas 350 加速卡 | x |
| Atlas A3 训练系列产品 / Atlas A3 推理系列产品 | √ |
| Atlas A2 训练系列产品 / Atlas A2 推理系列产品 | √ |
| Atlas 200I/500 A2 推理产品 | x |
| Atlas 推理系列产品 | x |
| Atlas 训练系列产品 | x |


说明：针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ，仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。


#### 函数功能

拷贝Cache。


#### 函数原型

```
copy_cache(dst: Cache, src: Cache, dst_batch_index: int = 0, src_batch_index: int = 0, offset: int = 0, size: int = -1, req_id: Optional[int] = None)
```


#### 参数说明

| 参数名称 | 数据类型 | 取值说明 |
| --- | --- | --- |
| dst | Cache | 目标Cache。 |
| src | Cache | 源Cache。 |
| dst\_batch\_index | int | 目标Cache的batch\_index，默认为0。 |
| src\_batch\_index | int | 源Cache的batch\_index，默认为0。 |
| offset | int | 每个tensor的偏移，默认为0。 |
| size | int | 设置为>0的整数，表示要拷贝的大小。 或设置为\-1，表示完整拷贝。 默认为\-1。 |
| req\_id | Optional[int] | 本次调用关联的req\_id，如果设置了该参数则本地调用相关的维测日志中会打印该req\_id 默认为None |


#### 调用示例

```
from llm_datadist import *
cache_manager.copy_cache(dst_cache, src_cache, 0, 1, 0, 128)
```


#### 返回值

正常情况下无返回值。

传入数据类型错误情况下会抛出TypeError或ValueError异常。

执行时间超过sync_kv_timeout配置会抛出LLMException异常。


#### 约束说明

源Cache和目的Cahce的CacheDesc需要匹配。