昇腾社区首页
中文
注册

执行模型性能瓶颈分析

  1. 单击菜单栏Ascend > Advisor,弹出专家系统工具界面 。如图1所示。
    图1 专家系统功能界面
  2. 单击图1界面左上角按钮,打开专家系统配置界面,各参数配置如图2所示。
    图2 New Project
    表1 Executable Properties参数说明

    参数

    说明

    Run Mode

    • Remote Run:远程运行。
    • Local Run:本地运行。

    Windows使用场景下仅支持Remote Run,该参数不展示。

    Project Location

    分析完成后的.json文件保存目录,默认为${HOME}/AscendProjects/AscendAdvisor/untitled,必选配置,可自定义。

    Analysis Model

    执行分析模式,必选配置,取值为:

    • OM only:只对所选的om模型进行分析。该模式下的可执行文件为内置标准可执行文件,无需手动指定。
    • Inference App:对当前用户的应用下执行OM模型的分析,需指定Executable File参数的可执行文件main。

    OM only模式只对模型进行标准化分析,若需要对用户应用下的模型进行精准分析请指定Inference App模式。

    OM Location

    指定OM模型文件,必选配置。

    CCE Code Location

    指定CCE文件保存目录,可选配置。不指定本参数时,专家系统的分析结果精度可能有所偏差。当前仅基于Roofline模型的算子瓶颈识别与优化建议功能需要。

    SoC Version

    设置待分析文件所属设备的芯片版本。配置示例:ascendxxx。

    请根据所在环境选择对应的芯片类型。

    Environment Variables

    环境变量配置。可以直接在框中输入也可以单击后在出的弹窗内单击填写。可选配置。

  3. 配置完成后单击“Start”启动分析。完成分析后,展示分析结果如图3
    图3 分析结果展示

    Model Performance Report是模型性能的总结报告。根据该页面,可以知道模型性能是好是坏,也可以知道模型的吞吐率、运行时间、Aicore的利用率以及Tiling策略是否合理。从resnet50的分析结果可以看出模型的芯片利用率是偏低的,应该会有可以再优化的空间。

    分析结果详细字段解释以及专家系统分析建议具体内容请参见MindStudio用户指南的“专家系统>专家系统自有知识库>操作步骤>专家系统入口>分析结果展示”章节。