概述
MindStudio Insight是一款主要针对大模型集群场景的调优可视化工具。针对大模型场景下性能数据量大、内存无法读取及可视化界面渲染时间长等问题，MindStudio Insight工具通过边读取边渲染和数据库进行加载的方式，解决了这些问题并提供全景交互分析的能力。 MindStudio Insight提供了性能数据的多种呈现形式，包括Timeline视图、通信分析、计算耗时等的可视化呈现，以便用户分析潜在的性能瓶颈，并指导如何采取措施消除或减少这些瓶颈。
优势
MindStudio Insight支持在Timeline查看集群场景下Profiling导出的数据，并以单卡为维度进行展示，且可以自动遍历输入路径下所有的trace_view.json文件（PyTorch 场景）或msprof*.json文件（TensorFlow 场景和离线推理场景），无需手动合并文件，操作简单。 MindStudio Insight借助于数据库支持超大性能数据处理，可以支持20GB以上的集群性能文件分析，并且能够支持大模型场景下的性能调优。
系统调优场景
时间线（Timeline）
在NPU性能调优过程中，MindStudio Insight工具以时间线（Timeline）的呈现方式为用户提供全流程在线推理/训练过程中的运行情况，并按照调度流程来呈现整体的运行状况，并且MindStudio Insight支持集群Timeline展示。通过分析时间线，用户可以对在线推理/训练过程进行细粒度的分析，如迭代间隙是否过长、算子执行时间等，并提供一些易用性功能辅助用户快速定位出性能瓶颈。 
内存（Memory）
内存（Memory）界面提供了采集过程中内存信息的可视化呈现。用户可以通过内存折线图对整体内存趋势一目了然，也可以框选放大折线图中峰值区域并结合算子内存信息精准定位到内存消耗大的算子。 
算子（Operator）
算子（Operator）视图旨在通过分析计算算子和通信算子耗时数据帮助开发者快速分析性能瓶颈。 
概览（Summary）
概览（Summary）界面提供通信域识别、划分和耗时拆解、分析功能。支持自动识别通信域，用户也可自行配置；支持按照通信域对比stage耗时、计算耗时和通信耗时，从而分析同一通信域内的切分是否均匀，是否存在通信慢卡和慢链路问题，帮助开发者快速识别问题。 
通信（Communication）
通信（Communication）界面用于展示集群中全网链路性能以及所有节点的通信性能，通过集群通信与计算重叠时间的分析可以找出集群训练中的慢主机或慢节点。 
Jupyter
Jupyter界面用于展示ipynb格式文件，具有在线编辑、执行ipynb文件的能力，可以执行性能分析工具。 
算子调优场景
时间线（Timeline）
在算子性能调优过程中，MindStudio Insight工具以时序图方式为用户提供指令在昇腾AI处理器上的运行情况，并按照调度流程来呈现整体的运行状况。通过分析时间线，用户可以通过查看指令详情、指令执行时间等快速定位出性能瓶颈。 
源码（Source）
源码（Source）界面用于展示算子指令热点图，支持查看算子源码与指令集的映射关系和耗时情况，在昇腾Ascend C算子开发过程中，使能开发者进行性能分析。 
详情（Details）
详情（Details）界面用于展示算子基础信息、计算负载分析和内存负载分析，并以柱状图和数据窗格呈现方式显示分析结果。 
更多详细功能介绍和使用案例欢迎查看：《MindStudio Insight用户指南》
830试用版本更新：
Windows最新版本试用；
Mac（x86_64）最新版本试用；
Mac（aarch64）最新版本试用；
Linux（x86_64）最新版本试用；
Linux（aarch64）最新版本试用；
点赞
收藏
回复
分享
举报
概述
MindStudio Insight是一款主要针对大模型集群场景的调优可视化工具。针对大模型场景下性能数据量大、内存无法读取及可视化界面渲染时间长等问题，MindStudio Insight工具通过边读取边渲染和数据库进行加载的方式，解决了这些问题并提供全景交互分析的能力。 MindStudio Insight提供了性能数据的多种呈现形式，包括Timeline视图、通信分析、计算耗时等的可视化呈现，以便用户分析潜在的性能瓶颈，并指导如何采取措施消除或减少这些瓶颈。
优势
MindStudio Insight支持在Timeline查看集群场景下Profiling导出的数据，并以单卡为维度进行展示，且可以自动遍历输入路径下所有的trace_view.json文件（PyTorch 场景）或msprof*.json文件（TensorFlow 场景和离线推理场景），无需手动合并文件，操作简单。 MindStudio Insight借助于数据库支持超大性能数据处理，可以支持20GB以上的集群性能文件分析，并且能够支持大模型场景下的性能调优。
系统调优场景
时间线（Timeline）
在NPU性能调优过程中，MindStudio Insight工具以时间线（Timeline）的呈现方式为用户提供全流程在线推理/训练过程中的运行情况，并按照调度流程来呈现整体的运行状况，并且MindStudio Insight支持集群Timeline展示。通过分析时间线，用户可以对在线推理/训练过程进行细粒度的分析，如迭代间隙是否过长、算子执行时间等，并提供一些易用性功能辅助用户快速定位出性能瓶颈。
内存（Memory）
内存（Memory）界面提供了采集过程中内存信息的可视化呈现。用户可以通过内存折线图对整体内存趋势一目了然，也可以框选放大折线图中峰值区域并结合算子内存信息精准定位到内存消耗大的算子。
算子（Operator）
算子（Operator）视图旨在通过分析计算算子和通信算子耗时数据帮助开发者快速分析性能瓶颈。
概览（Summary）
概览（Summary）界面提供通信域识别、划分和耗时拆解、分析功能。支持自动识别通信域，用户也可自行配置；支持按照通信域对比stage耗时、计算耗时和通信耗时，从而分析同一通信域内的切分是否均匀，是否存在通信慢卡和慢链路问题，帮助开发者快速识别问题。
通信（Communication）
通信（Communication）界面用于展示集群中全网链路性能以及所有节点的通信性能，通过集群通信与计算重叠时间的分析可以找出集群训练中的慢主机或慢节点。
Jupyter
Jupyter界面用于展示ipynb格式文件，具有在线编辑、执行ipynb文件的能力，可以执行性能分析工具。
算子调优场景
时间线（Timeline）
在算子性能调优过程中，MindStudio Insight工具以时序图方式为用户提供指令在昇腾AI处理器上的运行情况，并按照调度流程来呈现整体的运行状况。通过分析时间线，用户可以通过查看指令详情、指令执行时间等快速定位出性能瓶颈。
源码（Source）
源码（Source）界面用于展示算子指令热点图，支持查看算子源码与指令集的映射关系和耗时情况，在昇腾Ascend C算子开发过程中，使能开发者进行性能分析。
详情（Details）
详情（Details）界面用于展示算子基础信息、计算负载分析和内存负载分析，并以柱状图和数据窗格呈现方式显示分析结果。
更多详细功能介绍和使用案例欢迎查看：《MindStudio Insight用户指南》
830试用版本更新：
Windows最新版本试用；
Mac（x86_64）最新版本试用；
Mac（aarch64）最新版本试用；
Linux（x86_64）最新版本试用；
Linux（aarch64）最新版本试用；