本案例呈现了在Matmul计算过程中,输入和输出的数据总量超过L2 Cache大小时,通过L2 Cache数据切分对算子性能的提升效果。使能L2 Cache切分的完整样例请参考L2 Cache切分的算子样例。 本案例使用的AI处理器的L2 Cache大小为192MB,L2 Cache纯读带宽约为GM的3到4倍,两者之间存在较大差距。在搬入或搬出相同数据量的情况下,访问L2 Cache内的数据比访问GM更快。若数据无法命中L2 Cache,即需要访问的数据不在L2 Cache内,导致需要去GM上读写,带宽利用效率较低,最终算子搬入或搬出数据成为算子整个运行过程的性能瓶颈。 使能L2 Cache切