昇腾社区首页
开发者
资源
支持
积分兑换 NEW

MindStudio

MindStudio是华为面向昇腾AI开发者提供的全流程工具链，致力于提供端到端的昇腾AI应用开发解决方案，使能开发者高效完成训练开发、推理开发和算子开发。

  • MindStudio是什么

    介绍MindStudio的工具架构和使用场景。

  • 版本说明

    MindStudio的版本配套关系、当前版本的新增变更特性以及问题修复等。

  • 快速入门

    训练、推理、算子开发场景下工具使用的快速入门。

可视化工具

算子开发工具

设计

  • 算子设计 msKPP

    支持用户输入算子表达，进而预测算子在这一算法实现下的性能上限。

开发

  • 算子工程 msOpGen

    包含msOpGen提供模板工程生成能力，简化算子工程搭建并辅助算子测试验证；msOpST旨在真实的硬件环境中，对算子的输入输出进行测试，以验证算子的功能是否正确。

调试

  • 算子调试 msDebug

    提供基于昇腾处理器的原生环境调试能力，实现灵活的变量展示。支持算子功能调试，单步调试（上板）等功能。

  • 异常检测 msSanitizer

    提供内存检测、竞争检测、未初始化检测及同步检测的能力，支持多核程序下内存问题的精准定位。

调优

  • 算子调优 msOpProf

    提供上板和仿真的性能数据采集方式，并通过MindStudio Insight进行可视化呈现，方便用户快速定位算子性能瓶颈。

运行

  • 算子调用 msKL

    利用提供的接口在Python脚本中快速实现Kernel下发代码生成、编译及运行Kernel。

训练开发工具

开发
调试
  • 精度调试 msProbe

    针对昇腾提供的全场景精度工具链，帮助用户快速提高模型精度定位效率。

  • 内存分析 msMemScope

    提供整网级多维度显存数据采集、自动诊断、优化分析能力。

调优
  • 模型调优 msProf

    支持采集CANN和NPU性能数据，提升昇腾设备性能调优效率。

  • Ascend PyTorch Profiler

    提供PyTorch训练/在线推理场景采集性能数据，输出可视化的性能数据文件，提升性能分析效率。

  • MindSpore Profiler

    提供MindSpore训练/在线推理场景采集性能数据，输出可视化的性能数据文件，提升性能分析效率。

  • 性能分析 msprof-analyze

    基于采集的性能数据进行分析，提供昇腾设备性能瓶颈快速识别能力。

  • 调优工具接口库 msPTI

    用户可以通过msPTI构建针对NPU应用程序的工具，用于分析应用程序的性能。

  • 内存分析 msMemScope

    提供整网级多维度显存数据采集、自动诊断、优化分析能力。

运行

  • 在线监测 msMonitor

    支持落盘和在线性能数据采集，提供集群场景性能监测及定位能力。

扩展工具

  • bind_core

    绑核脚本，支持非侵入修改工程代码，实现一键式绑核功能。

  • Tinker

    Tinker大模型并行策略自动寻优系统，根据提供的训练脚本，进行单节点NPU性能测量，推荐高性能并行策略训练脚本。

推理开发工具

开发
调试
  • 精度调试 msProbe

    针对昇腾提供的全场景精度工具链，帮助用户快速提高模型精度定位效率。

  • 内存分析 msMemScope

    提供整网级多维度显存数据采集、自动诊断、优化分析能力。

调优

运行

  • 在线监测 msMonitor

    支持落盘和在线性能数据采集，提供集群场景性能监测及定位能力。

精度和性能测评

工具扩展SDK

  • 工具扩展SDK msTX

    可以自定义采集时间段或者关键函数的开始和结束时间点，识别关键函数或迭代等信息，对性能和算子问题快速定界。

实践案例

参考