开发者
资源
[object Object][object Object][object Object]undefined
[object Object]

将float类型数据转换为fp8_e5m2类型。

  • 非饱和模式:
    • 输入数据超过输出类型最值时,结果被截断为目标格式的数据宽度,例如输入half值为257,输出int8_t值为1。
    • 输入数据为+/-inf时,返回输出类型的最值。
    • 输入数据为nan时,返回0。
  • 饱和模式:
    • 输入数据超过输出类型最值时,返回输出类型的对应最值,例如输入half值为257,输出int8_t值为127。
    • 输入数据为+/-inf时,返回输出类型的最值。
    • 输入数据为nan时,返回0。
[object Object]
[object Object]
[object Object][object Object]undefined

矢量数据寄存器和掩码寄存器的详细说明请参见

[object Object]

[object Object]

PIPE_V

[object Object]
  • 使能饱和模式和非饱和模式生效时,需配置ctrl寄存器,ctrl寄存器的详细说明请参见
[object Object]
[object Object]