概述

MindStudio Insight是一款主要针对大模型集群场景的调优可视化工具。针对大模型场景下性能数据量大、内存无法读取及可视化界面渲染时间长等问题，MindStudio Insight工具通过边读取边渲染和数据库进行加载的方式，解决了这些问题并提供全景交互分析的能力。 MindStudio Insight提供了性能数据的多种呈现形式，包括Timeline视图、通信分析、计算耗时等的可视化呈现，以便用户分析潜在的性能瓶颈，并指导如何采取措施消除或减少这些瓶颈。

优势

• MindStudio Insight支持在Timeline查看集群场景下Profiling导出的数据，并以单卡为维度进行展示，且可以自动遍历输入路径下所有的trace_view.json文件（PyTorch 场景）或msprof*.json文件（TensorFlow 场景和离线推理场景），无需手动合并文件，操作简单。
• MindStudio Insight借助于数据库支持超大性能数据处理，可以支持20GB以上的集群性能文件分析，并且能够支持大模型场景下的性能调优。

场景

• 系统调优：MindStudio Insight提供时序图、显存、算子耗时、通信瓶颈分析等功能，帮助开发者快速定位模型性能瓶颈。

• 算子调优：MindStudio Insight提供指令流水视图、算子源码视图以及算子运行负载分析视图，直观地将运行在昇腾AI处理器上的算子的关键性能指标进行可视化呈现，帮助用户快速定位算子的软、硬件性能瓶颈，提升算子性能分析的效率。

最新版本