Quantization

若API未标明支持情况,则代表该API的支持情况待验证。

API名称

是否支持

限制与说明

torch.ao.quantization.quantize

否

  

torch.ao.quantization.quantize_dynamic

否

  

torch.ao.quantization.quantize_qat

否

  

torch.ao.quantization.prepare

否

  

torch.ao.quantization.prepare_qat

否

  

torch.ao.quantization.convert

否

  

torch.ao.quantization.fuse_modules

否

  

torch.ao.quantization.QuantStub

否

  

torch.ao.quantization.DeQuantStub

否

  

torch.ao.quantization.QuantWrapper

否

  

torch.ao.quantization.add_quant_dequant

否

  

torch.ao.quantization.swap_module

否

  

torch.ao.quantization.propagate_qconfig_

否

  

torch.ao.quantization.default_eval_fn

否

  

torch.ao.quantization.quantize_fx.prepare_fx

否

  

torch.ao.quantization.quantize_fx.prepare_qat_fx

否

  

torch.ao.quantization.quantize_fx.convert_fx

否

  

torch.ao.quantization.quantize_fx.fuse_fx

否

  

torch.ao.quantization.qconfig_mapping.QConfigMapping

否

  

torch.ao.quantization.qconfig_mapping.QConfigMapping.set_global

否

  

torch.ao.quantization.qconfig_mapping.QConfigMapping.set_module_name

否

  

torch.ao.quantization.qconfig_mapping.QConfigMapping.set_module_name_object_type_order

否

  

torch.ao.quantization.qconfig_mapping.QConfigMapping.set_module_name_regex

否

  

torch.ao.quantization.qconfig_mapping.QConfigMapping.set_object_type

否

  

torch.ao.quantization.qconfig_mapping.QConfigMapping.to_dict

否

  

torch.ao.quantization.qconfig_mapping.get_default_qconfig_mapping

否

  

torch.ao.quantization.qconfig_mapping.get_default_qat_qconfig_mapping

否

  

torch.ao.quantization.backend_config.BackendConfig

否

  

torch.ao.quantization.backend_config.BackendConfig.set_backend_pattern_config

否

  

torch.ao.quantization.backend_config.BackendConfig.set_backend_pattern_configs

否

  

torch.ao.quantization.backend_config.BackendConfig.set_name

否

  

torch.ao.quantization.backend_config.BackendConfig.to_dict

否

  

torch.ao.quantization.backend_config.BackendPatternConfig

否

  

torch.ao.quantization.backend_config.BackendPatternConfig.add_dtype_config

否

  

torch.ao.quantization.backend_config.BackendPatternConfig.set_dtype_configs

否

  

torch.ao.quantization.backend_config.BackendPatternConfig.set_fused_module

否

  

torch.ao.quantization.backend_config.BackendPatternConfig.set_fuser_method

否

  

torch.ao.quantization.backend_config.BackendPatternConfig.set_observation_type

否

  

torch.ao.quantization.backend_config.BackendPatternConfig.set_pattern

否

  

torch.ao.quantization.backend_config.BackendPatternConfig.set_qat_module

否

  

torch.ao.quantization.backend_config.BackendPatternConfig.set_reference_quantized_module

否

  

torch.ao.quantization.backend_config.BackendPatternConfig.set_root_module

否

  

torch.ao.quantization.backend_config.BackendPatternConfig.to_dict

否

  

torch.ao.quantization.backend_config.DTypeConfig

否

  

torch.ao.quantization.backend_config.DTypeConfig.to_dict

否

  

torch.ao.quantization.backend_config.DTypeWithConstraints

否

  

torch.ao.quantization.backend_config.ObservationType

否

  

torch.ao.quantization.fx.custom_config.FuseCustomConfig

否

  

torch.ao.quantization.fx.custom_config.FuseCustomConfig.set_preserved_attributes

否

  

torch.ao.quantization.fx.custom_config.FuseCustomConfig.to_dict

否

  

torch.ao.quantization.fx.custom_config.PrepareCustomConfig

否

  

torch.ao.quantization.fx.custom_config.PrepareCustomConfig.set_float_to_observed_mapping

否

  

torch.ao.quantization.fx.custom_config.PrepareCustomConfig.set_input_quantized_indexes

否

  

torch.ao.quantization.fx.custom_config.PrepareCustomConfig.set_non_traceable_module_classes

否

  

torch.ao.quantization.fx.custom_config.PrepareCustomConfig.set_non_traceable_module_names

否

  

torch.ao.quantization.fx.custom_config.PrepareCustomConfig.set_output_quantized_indexes

否

  

torch.ao.quantization.fx.custom_config.PrepareCustomConfig.set_preserved_attributes

否

  

torch.ao.quantization.fx.custom_config.PrepareCustomConfig.set_standalone_module_class

否

  

torch.ao.quantization.fx.custom_config.PrepareCustomConfig.set_standalone_module_name

否

  

torch.ao.quantization.fx.custom_config.PrepareCustomConfig.to_dict

否

  

torch.ao.quantization.fx.custom_config.ConvertCustomConfig

否

  

torch.ao.quantization.fx.custom_config.ConvertCustomConfig.set_observed_to_quantized_mapping

否

  

torch.ao.quantization.fx.custom_config.ConvertCustomConfig.set_preserved_attributes

否

  

torch.ao.quantization.fx.custom_config.ConvertCustomConfig.to_dict

否

  

torch.ao.quantization.fx.custom_config.StandaloneModuleConfigEntry

否

  

torch.ao.quantization.observer.ObserverBase

否

  

torch.ao.quantization.observer.MinMaxObserver

否

  

torch.ao.quantization.observer.MinMaxObserver.calculate_qparams

否

  

torch.ao.quantization.observer.MinMaxObserver.forward

否

  

torch.ao.quantization.observer.MinMaxObserver.reset_min_max_vals

否

  

torch.ao.quantization.observer.MovingAverageMinMaxObserver

否

  

torch.ao.quantization.observer.PerChannelMinMaxObserver

否

  

torch.ao.quantization.observer.PerChannelMinMaxObserver.reset_min_max_vals

否

  

torch.ao.quantization.observer.MovingAveragePerChannelMinMaxObserver

否

  

torch.ao.quantization.observer.HistogramObserver

否

  

torch.ao.quantization.observer.PlaceholderObserver

否

  

torch.ao.quantization.observer.RecordingObserver

否

  

torch.ao.quantization.observer.NoopObserver

否

  

torch.ao.quantization.observer.get_observer_state_dict

否

  

torch.ao.quantization.observer.load_observer_state_dict

否

  

torch.ao.quantization.fake_quantize.FakeQuantizeBase

否

  

torch.ao.quantization.fake_quantize.FakeQuantize

否

  

torch.ao.quantization.fake_quantize.FixedQParamsFakeQuantize

否

  

torch.ao.quantization.fake_quantize.FusedMovingAvgObsFakeQuantize

否

  

torch.ao.quantization.fake_quantize.disable_fake_quant

否

  

torch.ao.quantization.fake_quantize.enable_fake_quant

否

  

torch.ao.quantization.fake_quantize.disable_observer

否

  

torch.ao.quantization.fake_quantize.enable_observer

否

  

torch.ao.quantization.qconfig.QConfig

否

  

torch.ao.nn.intrinsic.ConvReLU1d

否

  

torch.ao.nn.intrinsic.ConvReLU2d

否

  

torch.ao.nn.intrinsic.ConvReLU3d

否

  

torch.ao.nn.intrinsic.LinearReLU

否

  

torch.ao.nn.intrinsic.ConvBn1d

否

  

torch.ao.nn.intrinsic.ConvBn2d

否

  

torch.ao.nn.intrinsic.ConvBn3d

否

  

torch.ao.nn.intrinsic.ConvBnReLU1d

否

  

torch.ao.nn.intrinsic.ConvBnReLU2d

否

  

torch.ao.nn.intrinsic.ConvBnReLU3d

否

  

torch.ao.nn.intrinsic.BNReLU2d

否

  

torch.ao.nn.intrinsic.BNReLU3d

否

  

torch.ao.nn.intrinsic.qat.LinearReLU

否

  

torch.ao.nn.intrinsic.qat.ConvBn1d

否

  

torch.ao.nn.intrinsic.qat.ConvBnReLU1d

否

  

torch.ao.nn.intrinsic.qat.ConvBn2d

否

  

torch.ao.nn.intrinsic.qat.ConvBnReLU2d

否

  

torch.ao.nn.intrinsic.qat.ConvReLU2d

否

  

torch.ao.nn.intrinsic.qat.ConvBn3d

否

  

torch.ao.nn.intrinsic.qat.ConvBnReLU3d

否

  

torch.ao.nn.intrinsic.qat.ConvReLU3d

否

  

torch.ao.nn.intrinsic.qat.update_bn_stats

否

  

torch.ao.nn.intrinsic.qat.freeze_bn_stats

否

  

torch.ao.nn.intrinsic.quantized.BNReLU2d

否

  

torch.ao.nn.intrinsic.quantized.BNReLU3d

否

  

torch.ao.nn.intrinsic.quantized.ConvReLU1d

否

  

torch.ao.nn.intrinsic.quantized.ConvReLU2d

否

  

torch.ao.nn.intrinsic.quantized.ConvReLU3d

否

  

torch.ao.nn.intrinsic.quantized.LinearReLU

否

  

torch.ao.nn.intrinsic.quantized.dynamic.LinearReLU

否

  

torch.ao.nn.qat.Conv2d

否

  

torch.ao.nn.qat.Conv3d

否

  

torch.ao.nn.qat.Linear

否

  

torch.ao.nn.qat.dynamic.Linear

否

  

torch.ao.nn.quantized.ReLU6

否

  

torch.ao.nn.quantized.Hardswish

否

  

torch.ao.nn.quantized.ELU

否

  

torch.ao.nn.quantized.LeakyReLU

否

  

torch.ao.nn.quantized.Sigmoid

否

  

torch.ao.nn.quantized.BatchNorm2d

否

  

torch.ao.nn.quantized.BatchNorm3d

否

  

torch.ao.nn.quantized.Conv1d

否

  

torch.ao.nn.quantized.Conv2d

否

  

torch.ao.nn.quantized.Conv3d

否

  

torch.ao.nn.quantized.ConvTranspose1d

否

  

torch.ao.nn.quantized.ConvTranspose2d

否

  

torch.ao.nn.quantized.ConvTranspose3d

否

  

torch.ao.nn.quantized.Embedding

否

  

torch.ao.nn.quantized.EmbeddingBag

否

  

torch.ao.nn.quantized.FloatFunctional

否

  

torch.ao.nn.quantized.FXFloatFunctional

否

  

torch.ao.nn.quantized.QFunctional

否

  

torch.ao.nn.quantized.Linear

否

  

torch.ao.nn.quantized.LayerNorm

否

  

torch.ao.nn.quantized.GroupNorm

否

  

torch.ao.nn.quantized.InstanceNorm1d

否

  

torch.ao.nn.quantized.InstanceNorm2d

否

  

torch.ao.nn.quantized.InstanceNorm3d

否

  

torch.ao.nn.quantized.functional.avg_pool2d

否

  

torch.ao.nn.quantized.functional.avg_pool3d

否

  

torch.ao.nn.quantized.functional.adaptive_avg_pool2d

否

  

torch.ao.nn.quantized.functional.adaptive_avg_pool3d

否

  

torch.ao.nn.quantized.functional.conv1d

否

  

torch.ao.nn.quantized.functional.conv2d

否

  

torch.ao.nn.quantized.functional.conv3d

否

  

torch.ao.nn.quantized.functional.interpolate

否

  

torch.ao.nn.quantized.functional.linear

否

  

torch.ao.nn.quantized.functional.max_pool1d

否

  

torch.ao.nn.quantized.functional.max_pool2d

否

  

torch.ao.nn.quantized.functional.celu

否

  

torch.ao.nn.quantized.functional.leaky_relu

否

  

torch.ao.nn.quantized.functional.hardtanh

否

  

torch.ao.nn.quantized.functional.hardswish

否

  

torch.ao.nn.quantized.functional.threshold

否

  

torch.ao.nn.quantized.functional.elu

否

  

torch.ao.nn.quantized.functional.hardsigmoid

否

  

torch.ao.nn.quantized.functional.clamp

否

  

torch.ao.nn.quantized.functional.upsample

否

  

torch.ao.nn.quantized.functional.upsample_bilinear

否

  

torch.ao.nn.quantized.functional.upsample_nearest

否

  

torch.ao.nn.quantizable.LSTM

否

  

torch.ao.nn.quantizable.MultiheadAttention

否

  

torch.ao.nn.quantizable.MultiheadAttention.dequantize

否

  

torch.ao.nn.quantizable.MultiheadAttention.forward

否

  

torch.ao.nn.quantized.dynamic.Linear

否

  

torch.ao.nn.quantized.dynamic.LSTM

否

  

torch.ao.nn.quantized.dynamic.GRU

否

  

torch.ao.nn.quantized.dynamic.RNNCell

否

  

torch.ao.nn.quantized.dynamic.LSTMCell

否

  

torch.ao.nn.quantized.dynamic.GRUCell

否

  

torch.ao.ns._numeric_suite.compare_weights

     

torch.ao.ns._numeric_suite.get_logger_dict

     

torch.ao.ns._numeric_suite.Logger

     

torch.ao.ns._numeric_suite.Logger.forward

     

torch.ao.ns._numeric_suite.ShadowLogger

     

torch.ao.ns._numeric_suite.ShadowLogger.forward

     

torch.ao.ns._numeric_suite.OutputLogger

     

torch.ao.ns._numeric_suite.OutputLogger.forward

     

torch.ao.ns._numeric_suite.Shadow

     

torch.ao.ns._numeric_suite.Shadow.forward

     

torch.ao.ns._numeric_suite.Shadow.add

     

torch.ao.ns._numeric_suite.Shadow.add_scalar

     

torch.ao.ns._numeric_suite.Shadow.mul

     

torch.ao.ns._numeric_suite.Shadow.mul_scalar

     

torch.ao.ns._numeric_suite.Shadow.cat

     

torch.ao.ns._numeric_suite.Shadow.add_relu

     

torch.ao.ns._numeric_suite.prepare_model_with_stubs

     

torch.ao.ns._numeric_suite.compare_model_stub

     

torch.ao.ns._numeric_suite.get_matching_activations

     

torch.ao.ns._numeric_suite.prepare_model_outputs

     

torch.ao.ns._numeric_suite.compare_model_outputs

     

torch.ao.ns._numeric_suite_fx.OutputLogger

否

  

torch.ao.ns._numeric_suite_fx.OutputLogger.forward

     

torch.ao.ns._numeric_suite_fx.OutputComparisonLogger

否

  

torch.ao.ns._numeric_suite_fx.OutputComparisonLogger.forward

否

  

torch.ao.ns._numeric_suite_fx.NSTracer

     

torch.ao.ns._numeric_suite_fx.NSTracer.is_leaf_module

     

torch.ao.ns._numeric_suite_fx.extract_weights

     

torch.ao.ns._numeric_suite_fx.add_loggers

     

torch.ao.ns._numeric_suite_fx.extract_logger_info

     

torch.ao.ns._numeric_suite_fx.add_shadow_loggers

     

torch.ao.ns._numeric_suite_fx.extract_shadow_logger_info

     

torch.ao.ns._numeric_suite_fx.extend_logger_results_with_comparison

     

torch.ao.ns._numeric_suite_fx.prepare_n_shadows_model

否

  

torch.ao.ns._numeric_suite_fx.loggers_set_enabled

否

  

torch.ao.ns._numeric_suite_fx.loggers_set_save_activations

否

  

torch.ao.ns._numeric_suite_fx.convert_n_shadows_model

否

  

torch.ao.ns._numeric_suite_fx.extract_results_n_shadows_model

否

  

torch.ao.ns._numeric_suite_fx.print_comparisons_n_shadows_model

否

  

torch.ao.ns.fx.utils.compute_sqnr

     

torch.ao.ns.fx.utils.compute_normalized_l2_error

     

torch.ao.ns.fx.utils.compute_cosine_similarity