CompilerConfig类
该类用于构造传入torch.compiler backend的config参数,具体定义如下:
class CompilerConfig(NpuBaseConfig):
"""Set CompilerConfig configuration"""
def __init__(self):
self.debug = _DebugConfig()
self.export = _ExportConfig()
self.dump_config = _DataDumpConfig()
self.fusion_config = _FusionConfig()
self.experimental_config = _ExperimentalConfig()
self.inference_config = _InferenceConfig()
self.ge_config = _GEConfig()
self.aclgraph_config = _AclGraphConfig()
self.mode = OptionValue("max-autotune", ["max-autotune", "reduce-overhead"])
super(CompilerConfig, self).__init__()
关于CompilerConfig类成员的详细介绍参见表1。
成员 |
功能说明 |
|---|---|
debug |
配置debug调试类功能,配置形式为config.debug.xxx,包括如下功能: |
export |
配置离线导图相关功能,配置形式为config.export.xxx,具体介绍参见Dynamo导图功能。 |
dump_config |
配置图模式下数据dump功能,配置形式为config.dump_config.xxx,具体参见算子输入输出dump功能(图模式)。 |
fusion_config |
配置图融合相关功能,配置形式为config.fusion_config.xxx,具体参见算子融合规则配置功能(fusion_switch_file)。 |
experimental_config |
配置各种试验功能,配置形式为config.experimental_config.xxx,包括如下功能: |
inference_config |
配置推理场景相关功能,配置形式为config.inference_config.xxx,如动态shape图分档执行功能。 |
ge_config |
配置Ascend IR图相关功能,配置形式为config.ge_config.xxx,包括如下功能: |
aclgraph_config |
配置aclgraph相关功能,配置形式为config.aclgraph_config.xxx,包括如下功能: |
mode |
配置图模式的调度方式,配置形式为config.mode.xxx,如reduce-overhead模式配置。 |
父主题: torchair