---
title: sync_kv_timeout
description: "| 产品 | 是否支持 |"
url: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/hixlug/llmprv2_42_0017.html
sourcePath: /source/zh/canncommercial/900/API/hixlug/llmprv2_42_0017.html
indexId: 7fbd9475ececedb85118c858910d89cd41d990bab4adeac451b8b937fd4d661161
---
# sync_kv_timeout

#### 产品支持情况

| 产品 | 是否支持 |
| --- | --- |
| Atlas 350 加速卡 | x |
| Atlas A3 训练系列产品 / Atlas A3 推理系列产品 | √ |
| Atlas A2 训练系列产品 / Atlas A2 推理系列产品 | √ |
| Atlas 200I/500 A2 推理产品 | x |
| Atlas 推理系列产品 | x |
| Atlas 训练系列产品 | x |


说明：针对 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 ，仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。


#### 函数功能

配置pull_cache、pull_blocks、push_blocks、push_cache接口的超时时间，对应底层llm.SyncKvCacheWaitTime配置项。


#### 函数原型

```
sync_kv_timeout(sync_kv_timeout)
```


#### 参数说明

| 参数名称 | 数据类型 | 取值说明 |
| --- | --- | --- |
| sync\_kv\_timeout | int或str | 同步kv超时时间，单位：ms。不配置默认为1000ms。 |


#### 调用示例

```
from llm_datadist import LLMConfig
llm_config = LLMConfig()
llm_config.sync_kv_timeout = 1000
```


#### 返回值

正常情况下无返回值。

参数错误可能抛出TypeError或ValueError。


#### 约束说明

无
