--op_bank_path
功能说明
加载Auto Tune算子调优后自定义知识库的路径。
关联参数
该参数不能与--auto_tune_mode参数同时使用。
参数取值
参数值:Auto Tune算子调优后自定义知识库路径。
参数值格式:支持大小写字母(a-z,A-Z)、数字(0-9)、下划线(_)、中划线(-)、句点(.)。
参数默认值:
- GA调优后默认自定义知识库路径:${HOME}/ascend/latest/data/aoe/custom/op/<soc_version>/cube
- RL调优后默认自定义知识库路径:${HOME}/ascend/latest/data/aoe/custom/op/<soc_version>/vector
推荐配置及收益
无。
示例
例如Auto Tune算子调优后自定义知识库的路径分别为:
- GA调优后:$HOME/custom_tune_bank/op/<soc_version>/cube
- RL调优后:$HOME/custom_tune_bank/op/<soc_version>/vector
则使用示例为:
- 单独加载GA调优后知识库:
--op_bank_path=$HOME/custom_tune_bank/op/<soc_version>/cube
- 单独加载RL调优后知识库:
--op_bank_path=$HOME/custom_tune_bank/op/<soc_version>/vector
- 同时加载GA和RL调优后知识库:
--op_bank_path=$HOME/custom_tune_bank/op
使用约束
加载算子调优后自定义知识库路径优先级:TUNE_BANK_PATH环境变量设置路径>--op_bank_path参数加载路径>默认算子调优后自定义知识库路径。
- 如果模型转换前,通过TUNE_BANK_PATH环境变量指定了算子调优自定义知识库路径,模型转换时又通过--op_bank_path参数加载了自定义知识库路径,该场景下以TUNE_BANK_PATH环境变量设置的路径为准,--op_bank_path参数加载的路径不生效。
- --op_bank_path参数和环境变量指定路径都不生效前提下,使用默认自定义知识库路径。
- 如果上述路径下都无可用的自定义知识库,则atc工具会查找算子调优内置知识库。
支持的芯片型号
Atlas 200/300/500 推理产品
Atlas 训练系列产品
父主题: 算子调优选项