华为计算微信公众号
昇腾AI开发者公众号
华为计算微博
华为计算今日头条
使用脚本量化自己的网络模型,脚本基本参照样例中的resnet-101_calibration.py。运行后提示某个卷积层的quantized bias超出范围,若在skip layer中添加指定卷积层,之后的每个卷积层也都会报此错。
本帖最后由 匿名用户 于 2024/07/20 14:40:58 编辑
我要发帖子
使用脚本量化自己的网络模型,脚本基本参照样例中的resnet-101_calibration.py。运行后提示某个卷积层的quantized bias超出范围,若在skip layer中添加指定卷积层,之后的每个卷积层也都会报此错。