文档
注册
评分
提单
论坛
小AI

SetBatchNum

功能说明

在不改变Tiling的情况下,重新设置多Batch计算的Batch数。

函数原型

1
__aicore__ inline void SetBatchNum(int32_t batchA, int32_t batchB)

参数说明

表1 参数说明

参数名

输入/输出

描述

batchA

输入

设置的一次计算的A矩阵batch数。

batchB

输入

设置的一次计算的B矩阵batch数。

返回值

支持的型号

Atlas A2训练系列产品/Atlas 800I A2推理产品

Atlas推理系列产品(Ascend 310P处理器)AI Core

注意事项

调用示例

//  纯cube模式
mm1.SetTensorA(gm_a, isTransposeAIn);
mm1.SetTensorB(gm_b, isTransposeBIn);
if(tiling.isBias) {
    mm1.SetBias(gm_bias);
}
SetBatchNum(batchA, batchB);
// 多batch Matmul计算
mm1.IterateBatch(gm_c, false, 0, false);
搜索结果
找到“0”个结果

当前产品无相关内容

未找到相关内容,请尝试其他搜索词