shfl

产品支持情况

产品	是否支持
Atlas 350 加速卡	√
Atlas A3 训练系列产品/Atlas A3 推理系列产品	x
Atlas A2 训练系列产品/Atlas A2 推理系列产品	x
Atlas 200I/500 A2 推理产品	x
Atlas 推理系列产品AI Core	x
Atlas 推理系列产品Vector Core	x
Atlas 训练系列产品	x

功能说明

thread_block_tile组内线程的数据交换接口，不通过共享内存实现直接读取组内指定线程的寄存器中的值。

函数原型

template <typename T>
T shfl(T var, int src_rank) const

参数说明

表1 模板参数说明
参数名	输入/输出	描述
T	输入	var的数据类型，支持half、int32_t、uint32_t、float、half2、int64_t、uint64_t。

表2 参数说明
参数名	输入/输出	描述
var	输入	线程用于交换的输入操作数。
src_rank	输入	期望获取的var值所在的线程在组内的排名。当src_rank大于等于组内线程数时，获取src_rank % Size对应rank线程的var值。

返回值说明

thread_block_tile组内指定线程输入的var值。

约束说明

无

调用示例

示例代码中以4个线程为一组划分线程块，获取组内排名为2的线程输入的var值。

图1 shfl接口返回结果示意图

SIMT编程场景：

using namespace cooperative_groups;
__global__ void simt_kernel(...)
{
    ...
    thread_block block = this_thread_block();
    auto tile4 = tiled_partition<4>(block);
    uint32_t result = tile4.shfl(threadIdx.x + 100, 2);
    ...
}

SIMD与SIMT混合编程场景：

using namespace cooperative_groups;
__simt_vf__ inline void simt_kernel(...)
{
    ...
    thread_block block = this_thread_block();
    auto tile4 = tiled_partition<4>(block);
    uint32_t result = tile4.shfl(threadIdx.x + 100, 2);
    ...
}

父主题： thread_block_tile