---
title: calcType为CALC_TYPE_PREFILL时输入输出
description: "| 参数 | 维度 | 数据类型 | 格式 | cpu/npu | 描述 |"
url: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0187.html
sourcePath: /source/zh/canncommercial/900/API/ascendtb/ascendtb_01_0187.html
indexId: e3a3208d9ea688fb78d5a84c72f04e3a279c021485b46db81febe61177435c0d64
---
# calcType为CALC_TYPE_PREFILL时输入输出

| 参数 | 维度 | 数据类型 | 格式 | cpu/npu | 描述 |
| --- | --- | --- | --- | --- | --- |
| qNope | [tokenNum, headNum \* embeddimV]/[tokenNum, headNum, embeddimV] | float16/bf16 | ND | NPU | 输入，无位置编码query。 |
| qRope | [tokenNum, headNum \* 64] / [tokenNum, headNum, 64] | float16/bf16 | ND | NPU | 输入，旋转位置编码query。 |
| kNope | [batch, maxSeqLen, kvHeadNum \* embeddimV] | float16/bf16 | ND | NPU | 输入，无位置编码key。 |
| kRope | [batch, maxSeqLen, kvHeadNum \* 64] | float16/bf16 | ND | NPU | 输入，旋转位置编码key。 |
| vNope | [batch, maxSeqLen, kvHeadNum \* embeddimV] | float16/bf16 | ND | NPU | 输入，无位置编码value。 |
| qSeqLen | [batch] | int32 | ND | CPU | 输入，query的长度。 |
| kvSeqLen | [batch] | int32 | ND | CPU | 输入，key的长度。 |
| mask | UNDEFINED时不输入 MASK\_TYPE\_MASK\_FREE时输入：[512, 512] MASK\_TYPE\_SWA\_NORM时输入：[max(qSeqLen), max(kvSeqlen)] | float16/bf16 | ND | NPU | 输入，注意力掩码。 |
| attenOut | [tokenNum, headNum \* embeddimV]/[tokenNum, headNum, embeddimV] | float16/bf16 | ND | NPU | attention输出。 |