FAQ
安装python3-tk时提示错误信息
校准执行过程中提示“[IFMR]: Do layer xxx data calibration failed!”
编译并安装自定义算子包时提示"AttributeError: module ‘onnxruntime’ has no attribute ‘SessionOption’"信息
校准过程中提示"IFMR node. Name:'layer_ifmr_op' Status Message: std::bad_alloc"信息
校准过程中出现"killed"信息
QDQ格式模型推理过程中出现ONNXRuntimeError报错
校准执行过程中提示“[IfmrQuantWithoutOffset]scale is illegal”
量化校准过程中因数据量过大导致报错
IFMR数据量化时,存在"inf或NaN值"或"xxx calculate scale failed",量化过程报错
量化过程中提示某层bias量化超出int32范围
校准时提示“Invalid argument: You must feed a value for placeholder tensor **”
保存模型时提示“RuntimeError: record_file is empty, no layers to be quantized”
使用训练后量化进行量化时,量化过程存在空tensor输入报错信息
使用命令行方式安装Caffe环境失败
执行proto合并时提示ERROR信息
校准执行过程中提示"IfmrQuantCalibration with offset scale is illegal"或"IfmrQuantCalibration without offset scale is illegal"
量化执行过程中提示“Check scale and offset record file record.txt failed”
使用Ubuntu 20.04安装Caffe环境时,出现cuda和gcc版本不匹配的编译报错
量化感知训练场景下,出现编译ERROR的解决方法
量化感知训练场景下,出现数据类型不一致的解决方法