ascendie.BuilderFlag

说明

枚举类型,模型编译时的数据类型选项。

成员

成员名称

描述

fp16

模型编译时,内部数据类型强制转换为float16。

fp32

模型编译时,内部数据类型强制转换为float32。

int8

模型编译时,自动执行PTQ量化。