LLM_ENGINE_DataType_enum枚举

枚举功能

数据类型枚举。

枚举格式

typedef enum LLM_ENGINE_DataType_enum {
    TYPE_INVALID = 0,
    TYPE_BOOL = 1,
    TYPE_UINT8 = 2,
    TYPE_UINT16 = 3,
    TYPE_UINT32 = 4,
    TYPE_UINT64 = 5,
    TYPE_INT8 = 6,
    TYPE_INT16 = 7,
    TYPE_INT32 = 8,
    TYPE_INT64 = 9,
    TYPE_FP16 = 10,
    TYPE_FP32 = 11,
    TYPE_FP64 = 12,
    TYPE_STRING = 13,
    TYPE_BF16 = 14,
    TYPE_BUTT,
} LLM_ENGINE_DataType;

枚举参数

参数

参数类型

说明

取值要求

TYPE_INVALID

枚举值

非法类型

0

TYPE_BOOL

枚举值

bool类型

1

TYPE_UINT8

枚举值

uint8类型

2

TYPE_UINT16

枚举值

uint16类型

3

TYPE_UINT32

枚举值

uint32类型

4

TYPE_UINT64

枚举值

uint64类型

5

TYPE_INT8

枚举值

int8类型

6

TYPE_INT16

枚举值

int16类型

7

TYPE_INT32

枚举值

int32类型

8

TYPE_INT64

枚举值

int64类型

9

TYPE_FP16

枚举值

float16类型

10

TYPE_FP32

枚举值

float32类型

11

TYPE_FP64

枚举值

float64类型

12

TYPE_STRING

枚举值

string类型

13

TYPE_BF16

枚举值

bf16类型

14

TYPE_BUTT

枚举值

保留值

15