使用说明

Ascend C提供一组Matmul Tiling API，方便用户获取Matmul kernel计算时所需的Tiling参数。您只需要传入A/B/C矩阵等信息，调用API接口，即可获取到Init中TCubeTiling结构体中的相关参数。

Matmul Tiling API分为Matmul单核Tiling接口、多核Tiling接口和BatchMatmul Tiling接口。获取Tiling参数的流程如下：

1. 创建一个单核Tiling对象，或多核Tiling对象，或BatchMatmul Tiling对象。
2. 设置A、B、C、Bias的参数类型信息；M、N、Ka、Kb形状信息等。
3. 调用GetTiling接口，获取Tiling信息。

使用Matmul单核Tiling接口、多核Tiling接口和BatchMatmul Tiling接口获取Tiling参数的样例如下：

• Matmul单核Tiling

  auto ascendcPlatform = platform_ascendc::PlatformAscendC(context->GetPlatformInfo());
  matmul_tiling::MatmulApiTiling tiling(ascendcPlatform); 
  tiling.SetAType(matmul_tiling::TPosition::GM, matmul_tiling::CubeFormat::ND, matmul_tiling::DataType::DT_FLOAT16);   
  tiling.SetBType(matmul_tiling::TPosition::GM, matmul_tiling::CubeFormat::ND, matmul_tiling::DataType::DT_FLOAT16);   
  tiling.SetCType(matmul_tiling::TPosition::GM, matmul_tiling::CubeFormat::ND, matmul_tiling::DataType::DT_FLOAT);   
  tiling.SetBiasType(matmul_tiling::TPosition::GM, matmul_tiling::CubeFormat::ND, matmul_tiling::DataType::DT_FLOAT);   
  tiling.SetShape(1024, 1024, 1024);   
  tiling.SetOrgShape(1024, 1024, 1024); //或Ka,Kb不等长，如tiling.SetOrgShape(1024, 1024, 1024, 1280)   
  tiling.SetBias(true);   
  tiling.SetBufferSpace(-1, -1, -1);  // 设定允许使用的空间，缺省使用该AI处理器所有空间
  optiling::TCubeTiling tilingData;   
  int ret = tiling.GetTiling(tilingData);    // if ret = -1, get tiling failed

• 多核Tiling

  auto ascendcPlatform = platform_ascendc::PlatformAscendC(context->GetPlatformInfo());
  matmul_tiling::MultiCoreMatmulTiling tiling(ascendcPlatform); 
  tiling.SetDim(1);   
  tiling.SetAType(matmul_tiling::TPosition::GM, matmul_tiling::CubeFormat::ND, matmul_tiling::DataType::DT_FLOAT16);   
  tiling.SetBType(matmul_tiling::TPosition::GM, matmul_tiling::CubeFormat::ND, matmul_tiling::DataType::DT_FLOAT16);   
  tiling.SetCType(matmul_tiling::TPosition::GM, matmul_tiling::CubeFormat::ND, matmul_tiling::DataType::DT_FLOAT);   
  tiling.SetBiasType(matmul_tiling::TPosition::GM, matmul_tiling::CubeFormat::ND, matmul_tiling::DataType::DT_FLOAT);   
  tiling.SetShape(1024, 1024, 1024);   
  tiling.SetSingleShape(1024, 1024, 1024);
  tiling.SetOrgShape(1024, 1024, 1024); 
  tiling.SetBias(true);   
  tiling.SetBufferSpace(-1, -1, -1);  // 设定允许使用的空间，缺省使用该AI处理器所有空间
  optiling::TCubeTiling tilingData;   
  int ret = tiling.GetTiling(tilingData);    // if ret = -1, get tiling failed 

• BatchMatmul Tiling

  auto ascendcPlatform = platform_ascendc::PlatformAscendC(context->GetPlatformInfo());
  matmul_tiling::BatchMatmulTiling bmmTiling(ascendcPlatform); 
  bmmTiling.SetDim(1);   
  bmmTiling.SetAType(matmul_tiling::TPosition::GM, matmul_tiling::CubeFormat::ND, matmul_tiling::DataType::DT_FLOAT16);   
  bmmTiling.SetBType(matmul_tiling::TPosition::GM, matmul_tiling::CubeFormat::ND, matmul_tiling::DataType::DT_FLOAT16);   
  bmmTiling.SetCType(matmul_tiling::TPosition::GM, matmul_tiling::CubeFormat::ND, matmul_tiling::DataType::DT_FLOAT);   
  bmmTiling.SetBiasType(matmul_tiling::TPosition::GM, matmul_tiling::CubeFormat::ND, matmul_tiling::DataType::DT_FLOAT);   
  bmmTiling.SetBias(true);
  bmmTiling.SetShape(1024, 1024, 1024);   
  bmmTiling.SetSingleShape(1024, 1024, 1024);
  bmmTiling.SetOrgShape(1024, 1024, 1024);  
  bmmTiling.SetBufferSpace(-1, -1, -1);  // 设定允许使用的空间，缺省使用该AI处理器所有空间
  optiling::TCubeTiling tilingData;
  int ret = tiling.GetTiling(tilingData);    // if ret = -1, get tiling failed

接口列表如下：