开发者
下载

__hfma_relu

产品支持情况

产品

是否支持

Atlas 350 加速卡

Atlas A3 训练系列产品/Atlas A3 推理系列产品

x

Atlas A2 训练系列产品/Atlas A2 推理系列产品

x

Atlas 200I/500 A2 推理产品

x

Atlas 推理系列产品AI Core

x

Atlas 推理系列产品Vector Core

x

Atlas 训练系列产品

x

功能说明

对输入bfloat16类型数据x、y、z,计算x与y相乘加上z的结果,并遵循CAST_RINT模式对结果进行舍入。负数结果置为0。

函数原型

1
bfloat16_t __hfma_relu(const bfloat16_t x, const bfloat16_t y, const bfloat16_t z)

参数说明

表1 参数说明

参数名

输入/输出

描述

x

输入

源操作数。

y

输入

源操作数。

z

输入

源操作数。

返回值说明

x * y + z的值。本接口不受全局饱和模式影响,特殊值如下:

  • x为±inf,y为±0,返回nan。
  • x为±0,y为±inf,返回nan。
  • x*y为+inf,z为-inf,返回nan。
  • x*y为-inf,z为+inf,返回nan。
  • x*y+z超出对应类型范围的最大值,返回+inf。
  • x*y+z小于对应类型范围的最小值,返回0。
  • x、y、z任意一个为nan,返回nan。

约束说明

需要包含的头文件

使用该接口需要包含"simt_api/asc_bf16.h"头文件。

1
#include "simt_api/asc_bf16.h"

调用示例

  • SIMT编程场景:
    1
    2
    3
    4
    5
    __global__ __launch_bounds__(1024) void KernelHfma_relu(bfloat16_t* dst, bfloat16_t* x, bfloat16_t* y, bfloat16_t* z)
    {
        int idx = threadIdx.x + blockIdx.x * blockDim.x;
        dst[idx] = __hfma_relu(x[idx], y[idx], z[idx]);
    }
    
  • SIMD与SIMT混合编程场景:
    1
    2
    3
    4
    5
    __simt_vf__ __launch_bounds__(1024) inline void KernelHfma_relu(__gm__ bfloat16_t* dst, __gm__ bfloat16_t* x, __gm__ bfloat16_t* y, __gm__ bfloat16_t* z)
    {
        int idx = threadIdx.x + blockIdx.x * blockDim.x;
        dst[idx] = __hfma_relu(x[idx], y[idx], z[idx]);
    }