aclnnAllGatherMatmul

产品支持情况

[object Object]undefined

说明： 使用该接口时，请确保驱动固件包和CANN包都为配套的8.0.RC2版本或者配套的更高版本，否则将会引发报错，比如BUS ERROR等。

功能说明

• 接口功能：完成AllGather通信与MatMul计算融合。
• 计算公式：$$output=allgather(x1)@x2+bias$$ $$gatherOut=allgather(x1)$$

函数原型

每个算子分为两段式接口，必须先调用“aclnnAllGatherMatmulGetWorkspaceSize”接口获取计算所需workspace大小以及包含了算子计算流程的执行器，再调用“aclnnAllGatherMatmul”接口执行计算。

aclnnAllGatherMatmulGetWorkspaceSize

• 参数说明：

  [object Object]
  • [object Object]Atlas A2 训练系列产品/Atlas A2 推理系列产品[object Object]、[object Object]Atlas A3 训练系列产品/Atlas A3 推理系列产品[object Object]：
    • bias：暂不支持输入为非0的场景。

• 返回值：

  aclnnStatus：返回状态码，具体参见。

  第一段接口完成入参校验，出现以下场景时报错：

  [object Object]

aclnnAllGatherMatmul

• 参数说明：

  [object Object]

• 返回值：

  返回aclnnStatus状态码，具体参见。

约束说明

• 确定性计算：

  • aclnnAllGatherMatmul默认确定性实现。

• 输入x1为2维，其shape为(m, k)。x2必须是2维，其shape为(k, n)，轴满足MatMul算子入参要求，k轴相等，且k轴取值范围为[256, 65535)

• x1/x2支持的空tensor场景，m和n可以为空，k不可为空，且需要满足以下条件：

  • m为空，k不为空，n不为空；
  • m不为空，k不为空，n为空；
  • m为空，k不为空，n为空。

• 输出为2维，其shape为(m*rank_size, n), rank_size为卡数。

• [object Object]Atlas A2 训练系列产品/Atlas A2 推理系列产品[object Object]：支持2、4、8卡，并且仅支持HCCS链路all mesh组网。

• [object Object]Atlas A3 训练系列产品/Atlas A3 推理系列产品[object Object]：支持2、4、8、16、32卡，并且仅支持HCCS链路double ring组网。

• [object Object]Atlas A2 训练系列产品/Atlas A2 推理系列产品[object Object]：一个模型中的通算融合MC2算子，仅支持相同通信域。

调用示例

示例代码如下，仅供参考，具体编译和执行过程请参考编译与运行样例。

说明：本示例代码调用了部分HCCL集合通信库接口：HcclGetCommName、HcclCommInitAll、HcclCommDestroy, 请参考。

• [object Object]Atlas A2 训练系列产品/Atlas A2 推理系列产品[object Object]、[object Object]Atlas A3 训练系列产品/Atlas A3 推理系列产品[object Object]：

  [object Object]