---
title: 约束说明
description: "- ntokens = sum(seqlen[i])，i=0、1...batch-1。"
url: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0242.html
sourcePath: /source/zh/canncommercial/900/API/ascendtb/ascendtb_01_0242.html
indexId: a1ae31f857bad11a8733f768d9352e615b0783ef5d8689ea46baaa9db0f8871564
---
# 约束说明

- ntokens = sum(seqlen[i])，i=0、1...batch-1。
- 在key和value最后一维不同的情况下只支持Atlas A2 训练系列产品 / Atlas A2 推理系列产品和Atlas A3 推理系列产品 / Atlas A3 训练系列产品，此场景下keyCache、valueCache、keyCacheOut、valueCacheOut只支持ND格式。
- key、value、keyCache、valueCache、keyCacheOut 、valueCacheOut的数据类型都必须完全一致。
- keyCache、valueCache和keyCacheOut 、valueCacheOut的数据格式必须一致。
- 单入单出功能只支持Atlas A2 训练系列产品 / Atlas A2 推理系列产品和Atlas A3 推理系列产品 / Atlas A3 训练系列产品，且不支持压缩场景。
- 压缩场景下cache的大小要大于压缩后的大小。
- 当前仅支持key、value在后两维连续的情况。