多核切分时, 设置singleCoreM/singleCoreN/singleCoreK的对齐值。比如设置singleCoreM的对齐值为64(单位为元素),切分出的singleCoreM为64的倍数。
1 | int32_t SetAlignSplit(int32_t alignM, int32_t alignN, int32_t alignK) |
参数名 |
输入/输出 |
描述 |
---|---|---|
alignM |
输入 |
singleCoreM的对齐值。若传入-1或0,表示不设置指定的singleCoreM的对齐值,该值由Tiling函数自行计算。 |
alignN |
输入 |
singleCoreN的对齐值。若传入-1或0,表示不设置指定的singleCoreN的对齐值,该值由Tiling函数自行计算。 |
alignK |
输入 |
singleCoreK的对齐值。若传入-1或0,表示不设置指定的singleCoreK的对齐值,该值由Tiling函数自行计算。 |
-1表示设置失败; 0表示设置成功。
无
1 2 3 4 5 6 7 8 9 10 11 12 13 14 | auto ascendcPlatform = platform_ascendc::PlatformAscendC(context->GetPlatformInfo()); matmul_tiling::MultiCoreMatmulTiling tiling(ascendcPlatform); tiling.SetDim(1); tiling.SetAType(matmul_tiling::TPosition::GM, matmul_tiling::CubeFormat::ND, matmul_tiling::DataType::DT_FLOAT16); tiling.SetBType(matmul_tiling::TPosition::GM, matmul_tiling::CubeFormat::ND, matmul_tiling::DataType::DT_FLOAT16); tiling.SetCType(matmul_tiling::TPosition::GM, matmul_tiling::CubeFormat::ND, matmul_tiling::DataType::DT_FLOAT); tiling.SetBiasType(matmul_tiling::TPosition::GM, matmul_tiling::CubeFormat::ND, matmul_tiling::DataType::DT_FLOAT); tiling.SetShape(1024, 1024, 1024); tiling.SetAlignSplit(-1, 64, -1); // 设置singleCoreM/singleCoreN/singleCoreK的对齐值 tiling.SetOrgShape(1024, 1024, 1024); tiling.SetBias(true); tiling.SetBufferSpace(-1, -1, -1); optiling::TCubeTiling tilingData; int ret = tiling.GetTiling(tilingData); |