开发者
资源

__float2half_rz_sat

产品支持情况

产品

是否支持

Ascend 950PR/Ascend 950DT

Atlas A3 训练系列产品/Atlas A3 推理系列产品

x

Atlas A2 训练系列产品/Atlas A2 推理系列产品

x

Atlas 200I/500 A2 推理产品

x

Atlas 推理系列产品AI Core

x

Atlas 推理系列产品Vector Core

x

Atlas 训练系列产品

x

功能说明

饱和模式下,将浮点数转换为半精度浮点数,并遵循CAST_TRUNC模式,返回转换后的值。

函数原型

1
inline half __float2half_rz_sat(const float x)

参数说明

表1 参数说明

参数名

输入/输出

描述

x

输入

源操作数。

返回值说明

饱和模式下将输入遵循CAST_TRUNC模式转换成的半精度浮点数。

约束说明

使用此接口前需将CTRL[60]寄存器设置为0,否则饱和模式不生效。设置方式请参见控制饱和行为的方式

SIMT编程场景由于无法设置CTRL寄存器,本接口的饱和模式不生效。

需要包含的头文件

使用该接口需要包含"simt_api/asc_fp16.h"头文件。

1
#include "simt_api/asc_fp16.h"

调用示例

  • SIMD与SIMT混合编程场景:
    1
    2
    3
    4
    5
    __simt_vf__ __launch_bounds__(1024) inline void kernel__float2half_rz_sat(__gm__ half* dst, __gm__ float* x)
    {
        int idx = threadIdx.x + blockIdx.x * blockDim.x;
        dst[idx] = __float2half_rz_sat(x[idx]);
    }