Hccl客户端初始化接口。该接口默认在所有核上工作,用户也可以在调用前通过GetBlockIdx指定其在某一个核上运行。
1
|
__aicore__ inline void Init(GM_ADDR context, __gm__ void *initTiling = nullptr) |
参数名 |
输入/输出 |
描述 |
---|---|---|
context |
输入 |
通信上下文,包含rankDim,rankID等相关信息。 |
initTiling |
输入 |
可选参数,通信域初始化Mc2InitTiling的地址。Mc2InitTiling在Host侧计算得出,具体请参考表1 Mc2InitTiling参数说明,由框架传递到Kernel函数中使用,完整示例请参考8.13.1.2-调用示例。 |
无
1 2 3 4 5 6 7 8 9 |
// 传initTiling地址的调用方式,推荐使用该方式 REGISTER_TILING_DEFAULT(AllGatherCustomTilingData); //AllGatherCustomTilingData为对应算子头文件定义的结构体 auto tiling = (__gm__ AllGatherCustomTilingData*)tilingGM; Hccl hccl; GM_ADDR contextGM = AscendC::GetHcclContext<0>(); // AscendC自定义算子kernel中,通过此方式获取Hccl context __gm__ void *mc2InitTiling = (__gm__ void *)(&tiling->mc2InitTiling); hccl.Init(contextGM, mc2InitTiling); // 调用Hccl的SetCcTiling、Prepare、Commit、Wait、Finalize接口 |
1 2 3 4 5 6 |
// 不传initTiling地址的调用方式 Hccl hccl; GM_ADDR contextGM = AscendC::GetHcclContext<0>(); // AscendC自定义算子kernel中,通过此方式获取Hccl context hccl.Init(contextGM); // 调用Hccl的Prepare、Commit、Wait、Finalize接口 |
1 2 3 4 5 6 7 8 9 10 11 |
// 传initTiling地址的调用方式,推荐使用该方式 REGISTER_TILING_DEFAULT(AllGatherCustomTilingData); //AllGatherCustomTilingData为对应算子头文件定义的结构体 auto tiling = (__gm__ AllGatherCustomTilingData*)tilingGM; __gm__ void *mc2InitTiling = (__gm__ void *)(&tiling->mc2InitTiling); if ASCEND_IS_AIV { Hccl hccl; GM_ADDR contextGM = AscendC::GetHcclContext<0>(); // AscendC自定义算子kernel中,通过此方式获取Hccl context hccl.Init(contextGM, mc2InitTiling); // 调用Hccl的SetCcTiling、Prepare、Commit、Wait、Finalize接口 } |
1 2 3 4 5 6 7 8 |
// 不传initTiling地址的调用方式 if ASCEND_IS_AIV { Hccl hccl; GM_ADDR contextGM = AscendC::GetHcclContext<0>(); // AscendC自定义算子kernel中,通过此方式获取Hccl context hccl.Init(contextGM); // 调用Hccl的Prepare、Commit、Wait、Finalize接口 } |
1 2 3 4 5 6 7 8 9 10 11 12 13 |
// 传initTiling地址的调用方式,推荐使用该方式 REGISTER_TILING_DEFAULT(AllGatherCustomTilingData); //AllGatherCustomTilingData为对应算子头文件定义的结构体 auto tiling = (__gm__ AllGatherCustomTilingData*)tilingGM; __gm__ void *mc2InitTiling = (__gm__ void *)(&tiling->mc2InitTiling); if ASCEND_IS_AIV { if (AscendC::GetBlockIdx()==0) { Hccl hccl; GM_ADDR contextGM = AscendC::GetHcclContext<0>(); // AscendC自定义算子kernel中,通过此方式获取Hccl context hccl.Init(contextGM, mc2InitTiling); // 调用Hccl的SetCcTiling、Prepare、Commit、Wait、Finalize接口 } } |
1 2 3 4 5 6 7 8 9 10 |
// 不传initTiling地址的调用方式 if ASCEND_IS_AIV { if (AscendC::GetBlockIdx()==0) { Hccl hccl; GM_ADDR contextGM = AscendC::GetHcclContext<0>(); // AscendC自定义算子kernel中,通过此方式获取Hccl context hccl.Init(contextGM); // 调用Hccl的Prepare、Commit、Wait、Finalize接口 } } |