性能数据展示

支持界面预览

• 在展开或不展开进程级泳道的情况下，根据线程级中时间轴上的数据，将以灰色填充进程级泳道来展示线程级泳道中的数据分布情况，如图1中的1所示。
• 在线程级泳道中，如果一个泳道中存在多行数据，则在不展开该泳道的情况下，将会以缩略图的形式展示该泳道中数据的分布情况，如图1中的2所示。
  图1 时间线界面预览
  
  

  CPU、Memory、Network相关利用率数据，也就是数值类型事件，在时间线（Timeline）中以柱状图形式呈现，暂不支持预览功能，如图1中的3所示。

支持集群场景展示

MindStudio Insight支持导入和展示集群场景时间线（Timeline）数据，无需手动合并多个单卡数据。支持训练场景下的多级多卡和推理场景下多卡等场景，MindStudio Insight能够自动识别导入文件夹下所有的trace_view.json和msprof*.json文件。以16卡为例进行展示，如图2所示。

图2 集群场景Timeline数据展示

在集群场景中，为方便快速定位某卡的数据所对应的文件目录，可以将鼠标悬停在卡的序号上，则会显示该卡数据所对应的文件目录。例如将鼠标悬停在“0”上，则会在后方弹出示该卡所对应的文件目录，如图3所示。

图3 定位文件夹

支持分卡/专项层显示和对比

• 当导入多级多卡数据时，展示的时间线（Timeline）信息较多，为更好的帮助用户对比分析，MindStudio Insight支持按卡和按专项层进行过滤展示。
  • 按卡显示：以只显示1卡为例，单击界面左上方，选择“Card Filter”，然后单击后方输入框，在下拉框选择“1”，即可显示1卡的时间线（Timeline）信息，如图4所示。
    图4 1卡时间线信息
    
  • 按专项层显示：以只显示每张卡的Overlap Analysis层为例，单击界面左上方工具栏，选择“Units Filter”，然后单击后方输入框，在下拉框选择“Overlap Analysis”，即可显示Overlap Analysis层的时间线（Timeline）信息，如图5所示。
    图5 Overlap Analysis层时间线信息
    
• MindStudio Insight支持固定并置顶某些三层级（线程）的时间线信息，更方便的同其他卡同类层级进行对比。

  例：单击0、1、2卡中的某三层级名后方的，则可置顶，再次单击即可取消置顶，如图6所示。

  图6 置顶对比
  

支持单卡时间对齐

对于多机多卡场景，由于机器上时间不准，可能造成多卡间时间线（Timeline）相对位置不准确，MindStudio Insight支持单卡维度的时间校准，如图7所示，通过设置偏移量，可以将单卡的时间线左右移动，从而达到时间“校准”的目的。偏移量的单位为ns，负值为右移，正值为左移。

图7 单卡时间调整

在偏移量的弹框中单击（对齐到起始位置）按钮，会在时间戳偏移(ns)输入框中显示该卡中最左侧的线程数据与时间轴初始位置（00：00.000）的偏移量，然后按回车键，时间线（Timeline）界面将会把该线程数据与时间轴初始位置对齐。

如图8所示，0卡中Ascend Hardware层级的Stream 0线程最左侧的数据与时间轴初始位置的偏移量为58459800ns。

图8 初始位置偏移量

支持多机多卡展示

当导入多机多卡数据时，MindStudio Insight支持以机器维度展示数据，如图9所示。

该功能仅支持在全量DB场景下展示。

区域一：机器名称，是由hostName和hostUid组成。

区域二：Host泳道，是该机器下host侧的所有数据显示。

区域三：卡泳道，为该机器下的所有卡展示。

区域四：参数配置，先选择“机器名称”，再选择该机器下的“卡序号”。当导入的DB文件中存在名称为“HOST_INFO”的表时，在时间线（Timeline）界面下的“系统视图”页签（选择“统计系统视图”和“专家系统视图”时）和“发现”页签下，存在该选项。

图9 多机多卡展示

设置和查看标记

• 区域标记
  在时间线（Timeline）界面选中某个区域后，单击将选中区域进行标记并保存，如图10所示。

  图10 区域标记
  

  左键双击任一标记，可以设置该标记对的属性，支持修改标记对名称，颜色以及删除该标记对，如图11所示。

  图11 修改标记对属性
  
• 单点标记
  左键单击最上方空泳道的任意位置，将生成一个单点标记，如图12所示。

  图12 单点标记
  

  左键双击标记，可以设置该标记的属性，支持修改标记对名称，颜色以及删除该标记。

• 标记管理
  单击左上方工具栏中的，将显示所有标记信息，如图13所示。

  图13 查看标记信息
  

  • 单击某个标记对应的图标可删除标记。
  • 单击弹框下方的“清空全部”可删除所有标记。
  • 单击区域标记，界面下方同时展示该区域的耗时信息列表，如图1所示。
  • 如果某一标记不在当前可视化界面，单击该标记对应的图标将直接跳转至标记界面，便于查看。
  • 单击某个标记对应的颜色图标可进行颜色设置，便于对标记进行分类管理。

算子连线功能

• MindStudio Insight支持算子连线关系展示，单击有连线的算子，显示该算子关联的连线，即使折叠连线起点或者终点的进程，连线也不会消失，如图14所示。
  图14 算子连线关系
  
  

  如果同时折叠连线起点和终点的进程，连线就会消失。

• MindStudio Insight支持全量连线的功能，单击界面左上方工具栏中的，在弹框中选择某一（几）个连线类型，则在图形化窗格展示对应类型的所有连线，如图15所示。
  图15 全量连线
  

  应用层算子到NPU算子之间通过连线方式展示下发到执行的对应关系如下所示：

  • HostToDevice：CANN层Node（算子）到AscendHardware的NPU算子的下发执行关系（Host到Device）。
  • HostToDevice：CANN层Node（算子）到HCCL通信算子的下发执行关系（Host到Device）。
  • async_npu：应用层算子到Ascend Hardware的NPU算子的下发执行关系。
  • async_npu：应用层算子到HCCL通信算子的下发执行关系。
  • async_task_queue：应用层Enqueue到Dequeue的入队列到出队列对应关系，仅PyTorch场景。
  • fwdbwd：前向API到反向API，仅PyTorch场景。
  • MsTx：打点数据到AscendHardware的NPU算子的下发执行关系。
  

  • 各层的对应关系是否呈现与对应采集场景是否采集该数据有关，请以实际情况为准。
  • 各层之间的连线与各层是否展开呈联动关系，如果选择了某个连线类型，对应层没有展开，则不会显示该类型的连线。