Developers
Download

shfl_xor

产品支持情况

产品

是否支持

Atlas 350 加速卡

Atlas A3 训练系列产品/Atlas A3 推理系列产品

x

Atlas A2 训练系列产品/Atlas A2 推理系列产品

x

Atlas 200I/500 A2 推理产品

x

Atlas 推理系列产品AI Core

x

Atlas 推理系列产品Vector Core

x

Atlas 训练系列产品

x

功能说明

将当前线程的rank与lane_mask进行按位异或运算得到的rank,获取该rank的线程输入的var值。

函数原型

1
2
template <typename T>
T shfl_down(T var, unsigned int lane_mask) const

参数说明

表1 模板参数说明

参数名

输入/输出

描述

T

输入

var的数据类型,支持half、int32_t、uint32_t、float、half2、int64_t、uint64_t。

表2 参数说明

参数名

输入/输出

描述

var

输入

线程用于交换的输入操作数。

lane_mask

输入

与当前线程rank做异或运算的操作数。

返回值说明

thread_block_tile组内指定线程的var值。

约束说明

lane_mask必须小于thread_block_tile组内线程数。

调用示例

以4个线程为一组划分线程块,获取组内当前线程rank与lane_mask按位异或后对应rank线程输入的var值。

图1 shfl_xor接口返回结果示意图
  • SIMT编程场景:
    1
    2
    3
    4
    5
    6
    7
    8
    9
    using namespace cooperative_groups;
    __global__ void simt_kernel(...)
    {
        ...
        thread_block block = this_thread_block();
        auto tile4 = tiled_partition<4>(block);
        uint32_t result = tile4.shfl_xor(threadIdx.x + 100, 1);
        ...
    }
    
  • SIMD与SIMT混合编程场景:
    1
    2
    3
    4
    5
    6
    7
    8
    9
    using namespace cooperative_groups;
    __simt_vf__ inline void simt_kernel(...)
    {
        ...
        thread_block block = this_thread_block();
        auto tile4 = tiled_partition<4>(block);
        uint32_t result = tile4.shfl_xor(threadIdx.x + 100, 1);
        ...
    }