FAQ
- 安装python3-tk时提示错误信息
- 校准执行过程中提示“[IFMR]: Do layer xxx data calibration failed!”
- 编译并安装自定义算子包时提示"AttributeError: module ‘onnxruntime’ has no attribute ‘SessionOption’"信息
- 校准过程中提示"IFMR node. Name:'layer_ifmr_op' Status Message: std::bad_alloc"信息
- 校准过程中出现"killed"信息
- QDQ格式模型推理过程中出现ONNXRuntimeError报错
- 校准执行过程中提示“[IfmrQuantWithoutOffset]scale is illegal”
- 量化校准过程中因数据量过大导致报错
- IFMR数据量化时,存在"inf或NaN值"或"xxx calculate scale failed",量化过程报错
- 量化过程中提示某层bias量化超出int32范围
- 校准时提示“Invalid argument: You must feed a value for placeholder tensor **”
- 保存模型时提示“RuntimeError: record_file is empty, no layers to be quantized”
- 使用训练后量化进行量化时,量化过程存在空tensor输入报错信息
- 使用命令行方式安装Caffe环境失败
- 执行proto合并时提示ERROR信息
- 校准执行过程中提示"IfmrQuantCalibration with offset scale is illegal"或"IfmrQuantCalibration without offset scale is illegal"
- 量化执行过程中提示“Check scale and offset record file record.txt failed”
- 使用Ubuntu 20.04安装Caffe环境时,出现CUDA和GCC版本不匹配的编译报错
- 量化感知训练场景下,出现编译ERROR的解决方法
- 量化感知训练场景下,出现数据类型不一致的解决方法