量化时每个卷积层的quantized bias都超出范围
收藏回复举报
量化时每个卷积层的quantized bias都超出范围
t('forum.solved') 已解决
新人帖
发表于2024-07-20 14:36:54
0 查看

cke_213.png

使用脚本量化自己的网络模型,脚本基本参照样例中的resnet-101_calibration.py。运行后提示某个卷积层的quantized bias超出范围,若在skip layer中添加指定卷积层,之后的每个卷积层也都会报此错。

本帖最后由 匿名用户2024/07/20 14:40:58 编辑

我要发帖子