---
title: IncreFlashAttentionQuantFusionPass
description: "量化场景，将IncreFlashAttention+AscendQuant融合为IncreFlashAttention算子，quant的scale和offset转化为ifa的quant_scale2和quant_offset2入参。"
url: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0068.html
sourcePath: /source/zh/canncommercial/900/maintenref/graphubfusionref/atlasrr_30_0068.html
indexId: 347e3cf63c678c4bf98e5adc9da86ba8e1d4358a2c826323ee40a36ce845caa278
---
# IncreFlashAttentionQuantFusionPass

#### 融合模式

量化场景，将IncreFlashAttention+AscendQuant融合为IncreFlashAttention算子，quant的scale和offset转化为ifa的quant_scale2和quant_offset2入参。


#### 使用约束

- 仅支持IncreFlashAttention输出为fp16。
- 仅支持AscendQuant的输入为fp16，输出为int8。
- IncreFlashAttention算子的quant_scale2和quant_offset2必须为空。
- IncreFlashAttention算子必须为单输出。


#### 支持的型号

Atlas A2 训练系列产品 / Atlas A2 推理系列产品

Atlas A3 训练系列产品 / Atlas A3 推理系列产品

Atlas 350 加速卡