SetBatchNum
功能说明
在不改变Tiling的情况下,重新设置多Batch计算的Batch数。
函数原型
1
|
__aicore__ inline void SetBatchNum(int32_t batchA, int32_t batchB) |
参数说明
参数名 |
输入/输出 |
描述 |
---|---|---|
batchA |
输入 |
设置的一次计算的A矩阵batch数。 |
batchB |
输入 |
设置的一次计算的B矩阵batch数。 |
返回值
无
支持的型号
Atlas A2训练系列产品/Atlas 800I A2推理产品
Atlas推理系列产品(Ascend 310P处理器)AI Core
注意事项
无
调用示例
// 纯cube模式 mm1.SetTensorA(gm_a, isTransposeAIn); mm1.SetTensorB(gm_b, isTransposeBIn); if(tiling.isBias) { mm1.SetBias(gm_bias); } SetBatchNum(batchA, batchB); // 多batch Matmul计算 mm1.IterateBatch(gm_c, false, 0, false);
父主题: Matmul