下载
EN
注册

AscendQuantV2ScatterFusionPass

融合模式

将满足如下Pattern的结构融合成QuantUpdateScatter算子。

使用约束

  • AscendQuantV2 输出只有一个,且给了Scatter节点,输出为int8数据类型。
  • AscendQuantV2 的属性sqrt_mode为false, round_mode为“round”,Scatter节点reduce属性为“update”。
  • AscendQuantV2 第三个输入存在时,数据类型必须为bfloat16或者int32。
  • AscendQuantV2 的input0必须为float16或者bfloat16,input1必须为bfloat16或者为float32。

支持的型号

Atlas A2训练系列产品/Atlas 800I A2推理产品