BatchMatMulV2ReduceFusionPass
融合模式
该融合规则将BatchMatMulV2+Reduce算子融合为BatchMatMulV2算子。
模式一:
融合成
模式二:
融合成
使用约束
- BatchMatMulV2左右矩阵均为3维,且batch轴>1时。
- BatchMatMulV2输入的数据类型仅支持float32、float16、bfloat16。
- 图融合中各个节点都为静态节点。
- 构造图必须为两种情况中的一种:BatchMatMulV2-->Cast32-->ReduceSumD-->Output或者是BatchMatMulV2-->ReduceSumD-->Output。
- BatchMatMulV2后节点若为Cast32,输出数据类型为float16,Cast输出数据类型为float32。
- BatchMatMulV2输入节点必须为两个,输出节点数只能为1。
父主题: 图融合规则说明