使能Iterate异步接口避免AIC/AIV同步依赖
【优先级】:高
【描述】在AIC(AI Cube核)和AIV(AI Vector核)混合编程中,调用Matmul Iterate或者IterateAll时,AIV发送消息到AIC启动Matmul计算。若通过Iterate<sync=true>同步方式,如图1 同步方式消息发送示意图,每次调用都会触发一次消息发送,而通过Iterate<sync=false>异步方式,如图2,仅第一次需要发送消息,后续无需发送消息,从而减少Cube与Vector核间交互,减少核间通信开销。因此,mix场景推荐使用Iterate<false>或者IterateAll<false>异步接口。
【反例】
TQueBind<TPosition::CO2, TPosition::VECIN> qVecIn;
TQueBind<TPosition::VECIN, TPosition::VECOUT> qVecOut;
mm.SetTensorA(gmA);
mm.SetTensorB(gmB);
int16_t scalar = 2;
while(mm.template Iterate()){
auto cInUB = qVecIn.AllocTensor<float>();
mm.GetTensorC(cInUB);
qVecIn.EnQue(cInUB);
cInUB = qVecIn.Deque<float>();
auto cOutUB = qVecOut.AllocTensor<float>();
Muls(cOutUB, cInUB, scalar, baseM*baseN);
qVecIn.FreeTensor(cInUB);
...
}
【正例】
TQueBind<TPosition::CO2, TPosition::VECIN> qVecIn;
TQueBind<TPosition::VECIN, TPosition::VECOUT> qVecOut;
mm.SetTensorA(gmA);
mm.SetTensorB(gmB);
mm.SetWorkspace(workspace, size);//其中,workspace为临时空间的物理地址,size为singleCoreM*singleCoreN大小的矩阵C占用的内存大小:singleCoreM*singleCoreN*sizeof(float)
int16_t scalar = 2;
while(mm.template Iterate<false>()){
auto cInUB = qVecIn.AllocTensor<float>();
mm.GetTensorC(cInUB);
qVecIn.EnQue(cInUB);
cInUB = qVecIn.Deque<float>();
auto cOutUB = qVecOut.AllocTensor<float>();
Muls(cOutUB, cInUB, scalar, baseM*baseN);
qVecIn.FreeTensor(cInUB);
...
}
父主题: 流水优化

