---
title: 反量化融合
description: "支持量化好的k、v传入，降低显存占用。由于传入的q不是量化的，故又名伪量化。"
url: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0208.html
sourcePath: /source/zh/canncommercial/900/API/ascendtb/ascendtb_01_0208.html
indexId: c679f90ff648cd2a0336bcb5a57a7d2f26db07a1036d116dad260e6993326d8264
---
# 反量化融合

#### 功能说明

支持量化好的k、v传入，降低显存占用。由于传入的q不是量化的，故又名伪量化。


#### 开启方式

参数“quantType”置为TYPE_DEQUANT_FUSION。

当以上参数开启时，通过参数hasQuantOffset指明传入的量化后的kv是否需要相应的偏移量。


#### 约束说明

不支持 Atlas 推理系列产品 。