文档
注册
评分
提单
论坛
小AI

SetBufferSpace

功能说明

设置Matmul计算时可用的L1/L0C/UB/BT空间大小,单位为字节。

函数原型

1
int32_t SetBufferSpace(int32_t L1Size = -1, int32_t L0CSize = -1, int32_t UBSize = -1, int32_t BtSize = -1)

参数说明

表1 参数说明

参数名

输入/输出

描述

L1Size

输入

设置Matmul计算时,能够使用的L1 buffer大小,单位为字节。默认值-1,表示使用AI处理器L1 Buffer大小。

L0CSize

输入

设置Matmul计算时,能够使用的L0C buffer大小,单位为字节。默认值-1,表示使用AI处理器L0C Buffer大小。

UBSize

输入

设置Matmul计算时,能够使用的UB buffer大小,单位为字节。默认值-1,表示使用AI处理器UB Buffer大小。

BtSize

输入

设置Matmul计算时,能够使用的Bt buffer大小,单位为字节。默认值-1,表示使用AI处理器BT Buffer大小。

返回值

-1表示设置失败; 0表示设置成功。

注意事项

调用示例

auto ascendcPlatform = platform_ascendc::PlatformAscendC(context->GetPlatformInfo());
matmul_tiling::MatmulApiTiling tiling(ascendcPlatform); 
tiling.SetAType(matmul_tiling::TPosition::GM, matmul_tiling::CubeFormat::ND, matmul_tiling::DataType::DT_FLOAT16); 
tiling.SetBType(matmul_tiling::TPosition::GM, matmul_tiling::CubeFormat::ND, matmul_tiling::DataType::DT_FLOAT16);  
tiling.SetCType(matmul_tiling::TPosition::GM, matmul_tiling::CubeFormat::ND, matmul_tiling::DataType::DT_FLOAT);
tiling.SetBiasType(matmul_tiling::TPosition::GM, matmul_tiling::CubeFormat::ND, matmul_tiling::DataType::DT_FLOAT);   
tiling.SetShape(1024, 1024, 1024);
tiling.SetOrgShape(1024, 1024, 1024);   
tiling.SetBias(true);
tiling.SetBufferSpace(-1, -1, -1);  // 设置计算时可用的L1/L0C/UB/BT空间大小
optiling::TCubeTiling tilingData;   
int ret = tiling.GetTiling(tilingData);
搜索结果
找到“0”个结果

当前产品无相关内容

未找到相关内容,请尝试其他搜索词