SetFlag/WaitFlag
功能说明
同一核内不同流水线之间的同步指令。具有数据依赖的不同流水指令之间需要插此同步。
函数原型
template <HardEvent event> __aicore__ inline void SetFlag(TEventID eventID);
template <HardEvent event> __aicore__ inline void WaitFlag(TEventID eventID);
参数说明
参数名 |
输入/输出 |
描述 |
|---|---|---|
event |
输入 |
模板参数。 同步事件,数据类型为HardEvent。详细内容参考下文中的同步类型说明。 |
eventID |
输入 |
事件ID。数据类型为TEventID类型。其定义如下: using TEventID = int8_t; eventID需要通过AllocEventID或者FetchEventID来获取。 Atlas 训练系列产品,数据范围为:0-3 Atlas推理系列产品AI Core,数据范围为:0-7 Atlas A2训练系列产品/Atlas 800I A2推理产品,数据范围为:0-7 |
同步类型说明如下:
enum class HardEvent : uint8_t {
// 名称(源流水_目标流水),例如MTE2_V,代表PIPE_MTE2为源流水,PIPE_V为目标流水。标识从PIPE_MTE2到PIPE_V的同步,PIPE_V等待PIPE_MTE2。
MTE2_MTE1
MTE1_MTE2
MTE1_M
M_MTE1
MTE2_V
V_MTE2
MTE3_V
V_MTE3
M_V
V_M
V_V
MTE3_MTE1
MTE1_MTE3
MTE1_V
MTE2_M
M_MTE2
V_MTE1
M_FIX // 当前版本暂不支持
FIX_M // 当前版本暂不支持
MTE3_MTE2
MTE2_MTE3
S_V
V_S
S_MTE2
MTE2_S
S_MTE3
MTE3_S
MTE2_FIX // 当前版本暂不支持
FIX_MTE2 // 当前版本暂不支持
FIX_S // 当前版本暂不支持
M_S
FIX_MTE3 // 当前版本暂不支持
}
返回值
无
支持的型号
Atlas 训练系列产品
Atlas推理系列产品AI Core
Atlas A2训练系列产品/Atlas 800I A2推理产品
约束说明
- SetFlag/WaitFlag必须成对出现。
- 禁止用户在使用SetFlag和WaitFlag时,自行指定eventID,容易与框架同步事件冲突,导致卡死问题。eventID需要
通过AllocEventID或者FetchEventID来获取。
调用示例
如DataCopy需要等待SetValue执行完成后才能执行,需要插入PIPE_S到PIPE_MTE3的同步。
GlobalTensor<half> dstGlobal; LocalTensor<half> dstLocal; dstLocal.SetValue(0, 0); event_t eventIDSToMTE3 = static_cast<event_t>(GetTPipePtr()->FetchEventID(HardEvent::S_MTE3)); SetFlag<HardEvent::S_MTE3>(eventIDSToMTE3); WaitFlag<HardEvent::S_MTE3>(eventIDSToMTE3); DataCopy(dstGlobal, dstLocal, dataSize);
父主题: 同步控制