手工调优
近似校准后,如果精度不满足要求,可以参见本节提供的方法进行调优。
如果近似校准模型后,推理精度未满足要求,则可以修改简易配置文件(文件配置请参见训练后量化简易配置文件)对指定层跳过近似校准。修改方法如下:
修改简易配置文件中的skip_approximation_layers参数,跳过某些层的近似校准,然后重新生成近似校准模型。
父主题: 近似校准
近似校准后,如果精度不满足要求,可以参见本节提供的方法进行调优。
如果近似校准模型后,推理精度未满足要求,则可以修改简易配置文件(文件配置请参见训练后量化简易配置文件)对指定层跳过近似校准。修改方法如下:
修改简易配置文件中的skip_approximation_layers参数,跳过某些层的近似校准,然后重新生成近似校准模型。