reduce_scatter
函数原型
def reduce_scatter(tensor, reduction, rank_size, group = "hccl_world_group")
功能说明
提供group内的集合通信reducescatter功能，reduce操作由reduction参数指定。
参数说明
参数名 |
输入/输出 |
描述 |
|---|---|---|
tensor |
输入 |
tensorflow的tensor类型。 tensor支持的数据类型为int8, int32, float16, float32。 tensor的第一个维度的元素个数必需是rank size的整数倍。 |
reduction |
输入 |
String类型。 reduce的op类型，可以为”max”,”min”,”prod”和”sum”。 |
rank_size |
输入 |
int类型。 group内device的数量。 最大值：4096。 |
group |
输入 |
String类型，最大长度为128字节，含结束符。 group名称，可以为用户自定义group或者"hccl_world_group"。 |
返回值
tensor：对输入tensor执行完reducescatter操作之后的结果tensor。建议返回tensor的数据量为32Byte对齐，否则会导致性能下降。
调用示例
from npu_bridge.npu_init import * rank_size = 2 result = hccl_ops. reduce_scatter (tensor, "sum", rank_size)
约束说明
- 调用该接口的rank必须在当前接口入参group定义的范围内，不在此范围内的rank调用该接口会失败。
- 该接口要求输入tensor的数据量不超过8GB。