开发者
资源
[object Object][object Object]

MindStudio Insight是面向昇腾AI开发者的可视化调优工具,支持系统调优、算子调优、服务化调优和内存调优的能力,帮助开发者在训练、推理以及算子开发场景快速完成性能优化。

MindStudio Insight提供了丰富的调优分析手段,能够可视化呈现真实软硬件运行数据,多维度分析性能瓶颈点,支持百卡、千卡及以上规模的可视化集群性能分析,助力开发者在天级别的时间内完成性能调优。

[object Object]
  • MindStudio Insight支持在时间线(Timeline)查看集群场景下的Profiling数据,并以单卡维度进行展示,且可以自动遍历输入路径下的db文件,或者所有的trace_view.json文件(PyTorch场景和MindSpore场景)和msprof*.json文件(TensorFlow场景和离线推理场景),无需手动合并文件,操作简单。

  • MindStudio Insight借助于数据库支持超大性能数据处理,可以支持20GB的集群性能数据分析,并且能够支持大模型场景下的性能调优。

[object Object]

MindStudio Insight工具支持系统调优、算子调优、服务化调优和内存调优,可视化呈现数据情况,助力开发者快速完成性能调优。

  • 系统调优

    MindStudio Insight提供时间线视图、内存、算子耗时、通信瓶颈分析等功能,帮助开发者快速定位模型性能瓶颈,进行深度调优。

    [object Object]undefined
  • 算子调优

    MindStudio Insight提供指令流水视图、算子源码视图以及算子运行负载分析视图,直观地将运行在昇腾AI处理器上的算子的关键性能指标进行可视化呈现,帮助用户快速定位算子的软硬件性能瓶颈,提升算子性能分析的效率。

    [object Object]undefined
  • 服务化调优

    MindStudio Insight工具以时间线(Timeline)的呈现方式,将请求端到端的执行情况平铺在时间轴上,直观体现请求在各个关键阶段的耗时情况以及当下请求的状态信息,可帮助用户快速识别服务化性能瓶颈,并根据问题现象,调整调优策略。

    [object Object]undefined
  • 内存调优

    MindStudio Insight工具以图形化形式呈现device侧内存详细分配情况,并结合Python调用栈及自定义打点标签标记各种内存申请使用详情,进行内存问题的详细定位及调优。

    [object Object]undefined
[object Object]

MindStudio Insight工具支持导入并展示多种格式的性能数据文件,并对文件规格给出了指导性建议和限制要求。

[object Object]undefined