AscendQuantV2ScatterFusionPass
融合模式
将满足如下Pattern的结构融合成QuantUpdateScatter算子。
使用约束
- AscendQuantV2 输出只有一个,且给了Scatter节点,输出为int8数据类型。
- AscendQuantV2 的属性sqrt_mode为false, round_mode为“round”,Scatter节点reduce属性为“update”。
- AscendQuantV2 第三个输入存在时,数据类型必须为bfloat16或者int32。
- AscendQuantV2 的input0必须为float16或者bfloat16,input1必须为bfloat16或者为float32。
支持的型号
Atlas A2训练系列产品/Atlas 800I A2推理产品
父主题: 图融合规则说明