命令格式说明

专家系统执行分析命令行格式如下:

msadvisor -d data [-c conf] [-s soc_version] [-p parameter] [-h help]

命令行参数说明如表1所示。

表1 专家系统命令行参数说明

参数名

参数说明

是否必选

-d

--data

用户指定的分析数据的路径。

须指定到数据目录根路径data,例如/home/HwHiAiUser/data/

专家系统分析过程较为复杂,会产生较多的临时文件,因此执行专家系统分析前,需预留足够大的内存空间,否则可能造成进程终止。例如指定路径下的数据文件为100MB时,需要预留1GB的内存空间。

-c

--conf

用户指定工程配置文件或用户指定三个参数之一读取默认的工程配置文件,取值为:

  • path:指定工程模型配置文件*.json,配置文件默认保存路径为${install_path}/ascend-toolkit/latest/tools/msadvisor/conf/,${install_path}为Ascend-cann-toolkit包的指定安装路径。配置示例如下:
    • 集群场景的大模型并行方式优化推荐功能指定为train.json,例如:-c ${install_path}/ascend-toolkit/latest/tools/msadvisor/conf/train.json。
    • 其他功能可以指定为model.json、op.json或all.json,例如:-c ${install_path}/ascend-toolkit/latest/tools/msadvisor/conf/model.json。
    • 也可以同时指定多个文件,用分号隔开并在前后加引号,例如:-c "/xx/train.json;/xx/model.json"。
  • op:读取算子场景的默认op.json配置文件。
  • model:读取模型场景的默认model.json配置文件。
  • all:读取全场景(包括算子和模型)的all.json配置文件。

不指定-c参数时,默认执行op.json文件。

工程配置文件内配置了专家系统执行的具体分析操作,由系统自带,用户只需根据场景指定对应的配置文件即可。

-s

--soc_version

设置待分析文件所属设备的芯片版本。取值为:

  • Ascendxxx,xxx为用户实际使用的具体处理器类型。

当专家系统工具安装环境与待分析文件在同一环境下时,无需配置本参数,专家系统会自动识别设备芯片版本;专家系统工具安装环境为远端环境时,需要将待分析文件拷贝到远端环境,并根据待分析文件所属设备的芯片版本配置本参数。

当前仅基于Roofline模型的算子瓶颈识别与优化建议功能支持本参数。

-p

--parameter

自定义参数。可配置范围为(0, 1000]个字符。

配置格式为:-p modelname.key=value(modelname为模型名称,key为参数名,value为参数取值,多个参数时用分号隔开并在前后加引号,例如:"modelname1.key1=value1;modelname2.key2=value2")。

配置参数将修改生态知识库ecosystem.json文件中的parameter参数value值,若ecosystem.json文件中已存在modelname.key则替换已有的value值,若不存在则新增参数。

当前取值支持:string字符串、num_int整数、数组(string类型元素、num_int类型元素)。

当前主要应用场景请参见操作步骤(集群场景的大模型并行方式优化推荐)

-h

--help

命令行用户使用的帮助信息,解释使用方式。