---
title: FusedInferAttentionScoreQuantFusionPass
description: "量化场景，将FusedInferAttentionScore+AscendQuant融合为FusedInferAttentionScore算子，quant的scale和offset转化为FIA接口的quant_scale2和quant_offset2入参。"
url: https://www.hiascend.com/document/detail/zh/canncommercial/latest/maintenref/graphubfusionref/atlasrr_30_0078.html
sourcePath: /source/zh/canncommercial/900/maintenref/graphubfusionref/atlasrr_30_0078.html
indexId: f35e4e30bd3240f7e2cabf11419f9f92ec3fdf5130e84ab65876f52fc6c08ed178
---
# FusedInferAttentionScoreQuantFusionPass

#### 融合模式

量化场景，将FusedInferAttentionScore+AscendQuant融合为FusedInferAttentionScore算子，quant的scale和offset转化为FIA接口的quant_scale2和quant_offset2入参。


#### 使用约束

- 仅支持FusedInferAttentionScore为fp16输出。
- 仅支持AscendQuant为fp16输入int8输出。
- FusedInferAttentionScore算子的quant_scale2和quant_offset2必须为空。


#### 支持的型号

Atlas A2 训练系列产品 / Atlas A2 推理系列产品

Atlas A3 训练系列产品 / Atlas A3 推理系列产品

Atlas 350 加速卡