def allgather(tensor, rank_size, group = "hccl_world_group")

提供group内的集合通信allgather功能，将所有节点的输入Tensor合并起来。

参数名	输入/输出	描述
tensor	输入	TensorFlow的tensor类型。针对Atlas 训练系列产品，支持的数据类型为int8, uint8, uint16, int32, uint32, int64, uint64, float16, float32, float64。针对Atlas A2训练系列产品，支持的数据类型为int8, uint8, int16, uint16, int32, uint32, int64, uint64, float16, float32, float64。
rank_size	输入	int类型。 group内device的数量。最大值为4096。
group	输入	String类型，最大长度为128字节，含结束符。 group名称，可以为用户自定义group或者"hccl_world_group"。

参数名

输入/输出

描述

tensor

输入

TensorFlow的tensor类型。

针对Atlas 训练系列产品，支持的数据类型为int8, uint8, uint16, int32, uint32, int64, uint64, float16, float32, float64。

针对Atlas A2训练系列产品，支持的数据类型为int8, uint8, int16, uint16, int32, uint32, int64, uint64, float16, float32, float64。

rank_size

输入

int类型。

group内device的数量。

最大值为4096。

group

输入

String类型，最大长度为128字节，含结束符。

group名称，可以为用户自定义group或者"hccl_world_group"。

tensor：对输入tensor执行完allgather操作之后的结果tensor。

from npu_bridge.npu_init import *
rank_size = 2
result = hccl_ops.allgather (tensor, rank_size)

调用该接口的rank必须在当前接口入参group定义的范围内，不在此范围内的rank调用该接口会失败。