枚举类型,模型编译时的数据类型选项。
enum class BuilderFlag : size_t { FP16 = 0, FP32 = 1, MIX_FP32_WITH_FP16 = 2, QINT8 = 3 };
成员名称 |
描述 |
---|---|
FP16 |
模型编译时,内部数据类型强制转换为float16。 |
FP32 |
模型编译时,内部数据类型强制转换为float32。 |
MIX_FP32_WITH_FP16 |
模型编译时,内部数据类型为float16与float32混合。 |
QINT8 |
模型编译时,自动执行PTQ量化。 |