设置Matmul单核计算的形状singleCoreM、singleCoreN、singleCoreK,单位为元素个数。用于运行时修改shape,比如复用Matmul对象来处理尾块。
1 | __aicore__ inline void SetSingleShape(int singleM, int singleN, int singleK) |
参数名 |
输入/输出 |
描述 |
---|---|---|
singleM |
输入 |
设置的singleCoreM大小,单位为元素。 |
singleN |
输入 |
设置的singleCoreN大小,单位为元素。 |
singleK |
输入 |
设置的singleCoreK大小,单位为元素。 |
无
Atlas A2训练系列产品/Atlas 800I A2推理产品
Atlas推理系列产品AI Core
Atlas 200I/500 A2推理产品
无
REGIST_MATMUL_OBJ(&pipe, GetSysWorkSpacePtr(), mm, &tiling); mm.SetTensorA(gm_a); mm.SetTensorB(gm_b); mm.SetBias(gm_bias); mm.SetSingleShape(tailM,tailN,tailK); // 如果是尾核,需要调整singleCoreM/singleCoreN/singleCoreK mm.IterateAll(gm_c);