---
title: PromptFlashAttentionQuantFusionPass
description: "量化场景，将PromptFlashAttention+AscendQuant融合为PromptFlashAttention算子，quant的scale和offset转化为pfa的quant_scale2和quant_offset2入参。"
url: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0069.html
sourcePath: /source/zh/canncommercial/900/maintenref/graphubfusionref/atlasrr_30_0069.html
indexId: cad33b76d14584bfb70b387ae9f0c853598309891fe15bfca84065f5d6f16b0f78
---
# PromptFlashAttentionQuantFusionPass

#### 融合模式

量化场景，将PromptFlashAttention+AscendQuant融合为PromptFlashAttention算子，quant的scale和offset转化为pfa的quant_scale2和quant_offset2入参。


#### 使用约束

- 仅支持PromptFlashAttention为fp16输出。
- 仅支持AscendQuant为fp16输入int8输出。
- PromptFlashAttention算子的quant_scale2和quant_offset2必须为空。
- PromptFlashAttention算子必须为单输出。


#### 支持的型号

Atlas A2 训练系列产品 / Atlas A2 推理系列产品

Atlas A3 训练系列产品 / Atlas A3 推理系列产品

Atlas 350 加速卡