校准过程中出现"killed"信息

问题描述

校准过程中，出现“killed”信息。

可能原因

相较于环境中的CPU或者GPU存储，量化时使用的数据量过大，导致内存错误。

处理建议

1. 减少校准所用的数据量，即降低batch_size或者batch_num，可直接使用batch_size * batch_num的最小值尝试量化。
2. 如果网络中仅个别层的featuremap很大，出现内存错误，则可以跳过该层，不对其进行量化。