---
title: 公共前缀
description: "公共前缀指的是在一次推理过程中，多个输入提示包含相同的起始部分。"
url: https://www.hiascend.com/document/detail/zh/canncommercial/latest/others/llmdatadistdev/llmpdv1_42_16.html
sourcePath: /source/zh/canncommercial/900/others/llmdatadistdev/llmpdv1_42_16.html
indexId: 2d86fc479f9e5467c19c7a0d7c9da0dc912cf0646d27d0b585d9e31a2e9166d770
---
# 公共前缀

#### 功能介绍

公共前缀指的是在一次推理过程中，多个输入提示包含相同的起始部分。

可用于将公共前缀产生的KV Cache内存拷贝到新的用户请求的KV Cache上进行推理。


#### 涉及的接口

| 接口名称 | 功能 |
| --- | --- |
| CacheManager.copy\_cache | CacheManager场景下，拷贝cache。 |
| KvCacheManager.copy\_cache | KvCacheManager场景下，拷贝cache。 |


#### 功能示例

```
src_cache = kv_cache_manager.allocate_cache(npu_cache_desc, npu_cache_key) # 前缀cache
dst_cache = kv_cache_manager.allocate_cache(npu_cache_desc, npu_cache_key) # 新的请求cache

kv_cache_manager.copy_cache(dst_cache, src_cache, dst_batch_index, src_batch_index, offset, size)
```