本案例对Matmul算子进行性能分析和优化。Matmul算子实现的功能是矩阵乘法,其中主要包含的流水为数据搬入和搬出流水,Cube计算流水。 以矩阵维度M = 4096,N = 5120,K = 4096,输入数据类型half,输出数据类型float,输出格式是ND为例,性能验证平台为Atlas A2训练系列产品/Atlas 800I A2推理产品,介绍针对Matmul算子的优化手段,包括优化分核逻辑、优化基本块、开启大包搬运。 分核逻辑:开启尽量多的Cube核使能并行计算。 优化基本块,选择最优的baseM、baseN、baseK参数,其中baseM、baseN、baseK为Matmul T