昇腾社区首页
EN
注册

WaitIterateBatch

产品支持情况

产品

是否支持

Atlas A3 训练系列产品/Atlas A3 推理系列产品

Atlas A2 训练系列产品/Atlas 800I A2 推理产品/A200I A2 Box 异构组件

Atlas 200I/500 A2 推理产品

x

Atlas 推理系列产品AI Core

x

Atlas 推理系列产品Vector Core

x

Atlas 训练系列产品

x

Atlas 200/300/500 推理产品

x

功能说明

等待IterateBatch异步接口返回,支持连续输出到Global Memory。

函数原型

1
__aicore__ inline void WaitIterateBatch()

参数说明

参数名

输入/输出

描述

NA

返回值说明

约束说明

  • 配套IterateBatch异步接口使用。
  • 仅支持连续输出至Global Memory。
  • 模板参数enableMixDualMaster(默认取值为false)设置为true,即使能MixDualMaster(双主模式)场景时,不支持使用该接口。

调用示例

1
2
3
4
5
6
7
8
9
AscendC::Matmul<aType, bType, cType, biasType> mm;
mm.SetTensorA(gm_a[offsetA]);
mm.SetTensorB(gm_b[offsetB]);
if (tiling.isBias) {
    mm.SetBias(gm_bias[offsetBias]);
}
mm.IterateBatch(gm_c[offsetC], batchA, batchB, false);
// do some others compute
mm.WaitIterateBatch(); // 等待IterateBatch完成