昇腾社区首页
中文
注册

使用说明

并行策略展示

概览(Summary)界面支持并行策略设定值的管理,可根据导入的性能数据区分。

  • 性能数据中有采集到的并行策略参数值:可自动读取并填写在页面中,页面信息按照写入值自动刷新,如果需要重新设置并行参数值,可填写正确的值,单击“生成”,弹出二次确认窗口,请确认信息后,单击“确认”,页面信息会随之刷新。
  • 性能数据中无采集到的并行策略参数值:可根据实际情况分别填写正确的PP大小、TP大小、CP大小、DP大小和EP大小值,单击“生成”,页面信息会随之刷新。

自行配置并行策略,PP大小为4、TP大小为4、CP大小为4,DP大小为8,EP大小为1,单击“生成”,并行策略展示图按照输入值刷新,如图1所示。

当选择不同的维度时,可根据需求勾选流水线并行、张量并行、上下文并行、数据并行或专家并行,并行策略图会按照勾选的选项显示划分策略选框,单击选框时,下方页面会随之更新。

并行策略图还可根据“数据类型”显示卡片信息,“数据类型”为可选值,可按需选择。

图1 数据并行策略
  • 并行策略取值规则:PP大小 x TP大小 x CP大小 x DP大小 ≥ 导入的卡数量。
  • 当在MindStudio Insight工具导入之前曾导入过的数据时,并行策略的值会存在记忆功能,会默认展示之前设置的并行策略取值。

支持页面信息联动

  • 连线联动

    并行策略设置完成后,当选择“DP + PP + CP + TP 维度”时,在策略图展示区域,可单击单卡图标,出现相关连线,单击对应连线,下方页面会随之变化,实现联动功能,便于开发者查看数据差异,如图2所示。

    “DP + PP + CP + TP 维度”下,单击策略图中序号0相关的张量并行连线,计算/通信概览、计算详情(Rank ID)和通信详情(Rank ID)随之变化,计算/通信概览展示与序号0相关的通信域为“(0,1,2,3)”的信息详情,计算详情(Rank ID)与通信详情(Rank ID)分别展示对应卡的计算详情和通信详情,单击计算/通信概览区域中任意卡的柱状图时,计算详情和通信详情会展示相应卡的详情信息。

    图2 联动功能
  • 框选联动

    选择任意一个维度,当勾选流水线并行、张量并行、上下文并行、数据并行或专家并行时,并行策略图会按照勾选的选项显示划分策略,出现框选区域,单击选框,下方页面会随之变化,实现联动功能,如图3所示。

    “DP 维度”下,分别勾选数据并行和专家并行,并行策略图会随之更新,并出现选框,单击专家并行选框,计算/通信概览也随之更新。
    图3 框选联动

支持展示不同维度的并行策略

在概览(Summary)界面下,设置了并行策略值后,可选择“DP 维度”“DP + PP 维度”“DP + PP + CP 维度”“DP + PP + CP + TP 维度”展示并行策略。

当CP大小设置为1时,显示为“DP 维度”“DP + PP 维度”“DP + PP + TP 维度”,且在各维度下不显示“上下文并行大小”

  • DP维度

    当选择“DP 维度”时,可勾选“数据并行”“专家并行”,根据需求选择数据类型,计算/通信概览柱状图随之而变动,如图4所示。

    单击柱状图顶部数据类型的对应图示,可在柱状图中隐藏或展示对应数据。

    图4 DP维度
  • DP + PP维度

    当选择“DP + PP 维度”时,可勾选“流水线并行”“数据并行”“专家并行”,根据需求选择数据类型,计算/通信概览柱状图随之而变动,如图5所示。

    单击柱状图顶部数据类型的对应图示,可在柱状图中隐藏或展示对应数据。

    图5 DP + PP维度
  • DP + PP + CP维度

    当选择“DP + PP + CP 维度”时,可勾选“流水线并行”“上下文并行”“数据并行”“专家并行”,根据需求选择数据类型,计算/通信概览柱状图随之而变动,如图6所示。

    可单击柱状图顶部数据类型的对应图示,可在柱状图中隐藏或展示对应数据。

    图6 DP + PP + CP维度
  • DP + PP + CP + TP维度

    当选择“DP + PP + CP + TP 维度”时,可勾选“流水线并行”“张量并行”“上下文并行”“数据并行”“专家并行”,根据需求选择数据类型,计算/通信概览柱状图随之而变动,如图7所示。

    可单击卡片,选择对应连线,在策略图下方展示相应的计算/通信概览信息、计算详情和通信详情;还可单击柱状图顶部数据类型的对应图示,可在柱状图中隐藏或展示对应数据。

    图7 DP + PP + CP + TP维度

支持集群数据对比

MindStudio Insight支持集群数据对比,可帮助开发者直观明了地查看数据之间的差异,便于分析,设置基线数据和对比数据的操作请参见数据对比

在对比模式下,概览(Summary)界面“基本信息”区域分别展示对比数据的信息和基线数据的信息。

并行策略分析区域,并行策略配置参数应遵循取值规则,导入卡的数量以对比数据或者基线数据的最大设备数为准。并行策略图中选择选框,显示的详情信息为对比数据信息,括号中的为差值。

“计算/通信概览”区域的柱形图详情中会显示对比数据和基线数据的差值,如图8所示。

图8 概览界面对比模式