昇腾社区首页
中文
注册

使用说明

支持切换卡

Ascend Insight支持通过切换RankId来查看不同卡的内存信息,单击页面上方RankId的输入框,在下拉框选择需要查看的卡号,切换之后界面将显示对应卡的算子内存折线图、算子内存表格筛选条件栏和算子内存信息明细表,如图1所示。

图1 切换RankId

支持切换展示维度

Ascend Insight支持通过切换GroupBy来查看不同维度的算子内存折线图,单击页面上方GroupBy的输入框,在下拉框选择需要查看的维度。

  • Overall:以算子为单位,统计算子在保留、已分配和激活状态下的内存大小,以及PyTorch整体的持有内存大小,如图2所示。
    图2 Overall维度
  • Stream:以流为单位,统计处于保留、已分配和激活状态的算子内存大小,如图3所示。
    图3 Stream维度

支持内存折线图局部放大和还原

Ascend Insight支持通过鼠标左键框选放大选中部分和右键还原进行折线图的展示。为提升显示性能,折线图在数据量较大时会隐藏大部分点,可在框选到足够精细区域时显示所有点位,也可点击鼠标右键还原最初整体展示效果。

在折线图中单击鼠标左键拖至需要放大的终点位置并松开鼠标左键,框选部分将会被放大;如果还存在点被隐藏,重复放大操作即可展示被隐藏的点,选中放大区域如图4所示,放大后如图5所示。

图4 选中放大区域
图5 局部放大展示
  • 单击页面右上角按钮,使其为置灰状态,则折线图将锁定,不再支持鼠标左键框选放大功能;再次单击此按钮,或者单击鼠标右键即可恢复。放大功能默认开启。
  • 单击页面右上角按钮,折线图将会撤销一次放大操作。
  • 单击页面右上方按钮,折线图将会恢复最初状态。

支持搜索算子

Ascend Insight支持搜索算子,Memory界面中间部分设置了筛选条件栏和控制按钮,可通过设置查询条件进行算子明细表的展示。查询条件为算子名称和算子占用内存大小区间范围(最小值和最大值),默认展示内存大小在0~1000000KB范围内的算子,用户可根据实际需要进行调整。

单击“Query”后即可查询,单击“Reset”将会重置查询条件并再次进行查询。如图6所示,搜索算子名称为aten相关且内存大小为0~65KB的算子,表格中字段解释如表1所示。

图6 搜索算子
表1 字段说明

字段

说明

Name

算子名称。

Size(KB)

申请内存大小,单位KB。

Allocation Time(ms)

开始申请内存时间(从采集开始时计算,单位ms)。

Release Time(ms)

释放内存时间(从采集开始时计算,单位ms)。

Duration(ms)

内存持有时间。

Stream

AscendCL流的内存地址,用于标记不同的AscendCL流。

支持高亮显示

“GroupBy”选择“Overall”时,将鼠标移入表格中某条数据时(前提是折线图放大到足以展示表格中所有算子),若折线图上方显示了该条数据对应的点位(包括 Allocation Time 和 Release Time),则折线图上对应点会有高亮效果出现,方便快速定位到该算子所在位置。

将鼠标放置表格中红框位置,折线图立即高亮显示算子所在位置,如图7所示。

图7 算子高亮显示