Cast（float转half、int32_t）

Atlas A3 训练系列产品/Atlas A3 推理系列产品

√

Atlas A2 训练系列产品/Atlas A2 推理系列产品

√

Atlas 200I/500 A2 推理产品

x

Atlas 推理系列产品AI Core

√

Atlas 推理系列产品Vector Core

x

Atlas 训练系列产品

x

T

valueIn的数据类型，支持float。

U

转换后的数据类型，支持half、int32_t。

roundMode

精度转换处理模式，类型是RoundMode。

RoundMode为枚举类型，用以控制精度转换处理模式，具体定义为：

1
2
3
4
5
6
7
8
9

enum class RoundMode {
    CAST_NONE = 0,  // 在转换有精度损失时表示CAST_RINT模式，不涉及精度损失时表示不取整
    CAST_RINT,      // rint，四舍六入五成双取整
    CAST_FLOOR,     // floor，向负无穷取整
    CAST_CEIL,      // ceil，向正无穷取整
    CAST_ROUND,     // round，四舍五入取整
    CAST_TRUNC,     // trunc，向零取整
    CAST_ODD,       // Von Neumann rounding，最近邻奇数舍入
};

对于Cast，转换类型仅支持float转half(f322f16)与float转int32_t(f322s32)，相应支持的RoundMode如下：

• f322f16：CAST_ODD；
• f322s32：CAST_ROUND、CAST_CEIL、CAST_FLOOR、CAST_RINT。

Cast的精度转换规则具体可参考表1。

valueIn

输入

被转换数据类型的标量。