将float类型数据转换为fp8_e5m2类型。
- 非饱和模式:
- 输入数据超过输出类型最值时,结果被截断为目标格式的数据宽度,例如输入half值为257,输出int8_t值为1。
- 输入数据为+/-inf时,返回输出类型的最值。
- 输入数据为nan时,返回0。
- 饱和模式:
- 输入数据超过输出类型最值时,返回输出类型的对应最值,例如输入half值为257,输出int8_t值为127。
- 输入数据为+/-inf时,返回输出类型的最值。
- 输入数据为nan时,返回0。
[object Object]
无
PIPE_V
[object Object]