AOE
MDL_BANK_PATH
加载子图调优后自定义知识库的路径。
该参数需要与精度比对中的BUFFER_OPTIMIZE参数配合使用,仅在数据缓存优化开关打开的情况下生效,通过利用高速缓存暂存数据的方式,达到提升性能的目的。
参数值:模型调优后自定义知识库路径。
参数值格式:支持大小写字母(a-z,A-Z)、数字(0-9)、下划线(_)、中划线(-)、句点(.)。
参数默认值:$HOME/Ascend/latest/data/aoe/custom/graph/<soc_version>
配置示例:
{ge::ir_option::MDL_BANK_PATH, "$HOME/custom_module_path"}
使用约束:
加载子图调优后自定义知识库路径优先级:MDL_BANK_PATH参数加载路径>TUNE_BANK_PATH环境变量设置路径>默认子图调优后自定义知识库路径。
- 如果模型编译前,通过TUNE_BANK_PATH环境变量指定了子图调优自定义知识库路径,模型编译时又通过MDL_BANK_PATH参数加载了自定义知识库路径,该场景下以MDL_BANK_PATH参数加载的路径为准,TUNE_BANK_PATH环境变量设置的路径不生效。
- MDL_BANK_PATH参数和环境变量指定路径都不生效或无可用自定义知识库,则使用默认自定义知识库路径。
- 如果上述路径下都无可用的自定义知识库,则会查找子图调优内置知识库,该路径为:${INSTALL_DIR}/<arch>-linux/data/fusion_strategy/built-in,<arch>表示具体操作系统架构。
产品支持情况:
- Ascend 950PR/Ascend 950DT:不支持
Atlas A3 训练系列产品 /Atlas A3 推理系列产品 :支持Atlas A2 训练系列产品 /Atlas A2 推理系列产品 :支持Atlas 200I/500 A2 推理产品 :支持Atlas 推理系列产品 :支持Atlas 训练系列产品 :支持
OP_BANK_PATH
算子调优后自定义知识库路径。
参数值格式:支持大小写字母(a-z,A-Z)、数字(0-9)、下划线(_)、中划线(-)、句点(.)。
参数默认值:${HOME}/Ascend/latest/data/aoe/custom/op
配置示例:
{ge::ir_option::OP_BANK_PATH, "$HOME/custom_tune_path"}
使用约束:
加载算子调优后自定义知识库路径优先级:TUNE_BANK_PATH环境变量设置路径>OP_BANK_PATH参数加载路径>默认算子调优后自定义知识库路径。
- 如果模型转换前,通过TUNE_BANK_PATH环境变量指定了算子调优自定义知识库路径,模型编译时又通过OP_BANK_PATH参数加载了自定义知识库路径,该场景下以TUNE_BANK_PATH环境变量设置的路径为准,OP_BANK_PATH参数加载的路径不生效。
- OP_BANK_PATH参数和环境变量指定路径都不生效前提下,使用默认自定义知识库路径。
- 如果上述路径下都无可用的自定义知识库,则会查找算子调优内置知识库。
产品支持情况:
- Ascend 950PR/Ascend 950DT:不支持
Atlas A3 训练系列产品 /Atlas A3 推理系列产品 :支持Atlas A2 训练系列产品 /Atlas A2 推理系列产品 :支持Atlas 200I/500 A2 推理产品 :支持Atlas 推理系列产品 :支持Atlas 训练系列产品 :支持