使用说明

并行策略展示

概览(Summary)界面支持并行策略设定值的管理,可根据导入的性能数据区分。

自行配置并行策略,PP大小为2、TP大小为4、DP大小为2,单击“生成”,并行策略展示图按照写入值刷新,如图1所示。且当分别勾选流水线并行、张量并行、以及数据并行时,并行策略图会按照勾选的选项显示划分策略选框,单击选框时,下方页面会随之更新。

并行策略图还可根据“数据类型”显示卡片信息,“数据类型”为可选值,可按需选择。

图1 数据并行策略
  • 并行策略取值规则:PP大小 x TP大小 x DP大小 = 导入的卡数量。
  • 当在MindStudio Insight工具导入之前曾导入过的数据时,并行策略的值会存在记忆功能,会默认展示之前设置的并行策略取值。

支持页面信息联动

支持以精度维度分析

并行策略图可根据“数据类型”显示卡片信息,“数据类型”为可选值,默认“不展示”,可选择以“预处理时间”“总计算时间”“纯计算时间”“通信时间(被覆盖)”“通信时间(未被覆盖)”“空闲时间”类型展示,此时会在选框后显示“精度”参数,卡片会被渲染填色,可从并行策略图颜色直观了解性能情况。

颜色展示条中,绿色左侧的数据为所有卡中对应选择数据类型的最小值,红色右侧的数据表示最大值,可通过调整精度渲染图中颜色,如图4所示。

根据精度取值可将各卡计算出的分级度量值将划分为10个等级,可按需填写精度取值,默认为0.03。分级度量值 =(所选卡对应类型的值 – 最小值)/ 最小值。

如图中所示,当精度取值设置为0.03时,可将计算得出的分级度量值划分为10个等级,第一等级值为(0,0.03),第二等级值为(0.03,0.06),依次类推,第十等级值则为0.27之后的所有数据。当精度等级越小时,颜色表现为绿色,当精度等级越大时,颜色表现为红色,可通过调整精度来展示并行策略图的颜色,便于更清晰的查看各卡之间的性能差异。

图4 并行策略精度展示