---
title: 计算公式
description: "-"
url: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0260.html
sourcePath: /source/zh/canncommercial/900/API/ascendtb/ascendtb_01_0260.html
indexId: a8fb3a6eabc5ac0e4f443a3a2ae9a83f2bf954a91ac17bdb49e03badefc1743864
---
# 计算公式

- 
  preprocess包含对q的缩放，其缩放系数由参数qScale给出，以及当开启clamp缩放时，对q做torch.clamp。

- 
  当开启压缩mask特性时preprocess会对mask进行压缩。


- 当“calcType”非PA_ENCODER且“kvCacheCfg”不为K_BYPASS_V_BYPASS：
  这一步会将k，v刷新到kvcache中，具体操作可以见KVCacheOperation。

- 
  其中，Zoom函数包括了对结果进行缩放，缩放系数由参数qkScale给出，一般为1 / sqrt(head_size)，当开启logN缩放时，缩放系数由传入的输入tensor logN 给出。PostProcess函数包含对结果的reshape。