昇腾社区首页
EN
注册
开发者
下载

认识MindStudio

什么是MindStudio

MindStudio是华为面向昇腾AI开发者提供的工具集,使能开发者高效完成算子开发、训练开发和推理开发。

更多信息请单击MindStudio

MindStudio有哪些关键功能

MindStudio当前配备了完整的工具链,包括训练开发工具、推理开发工具、算子开发工具、以及可视化工具,具体功能介绍如下。

  • 训练开发工具:聚焦用户在模型迁移、模型开发中遇到的痛点问题,提供全流程的工具链。通过提供分析迁移工具、精度调试工具和性能调优工具三大主力工具包,帮助用户解决开发过程中迁移困难、精度不达标、性能不达标或劣化等问题,让用户轻松解决精度和性能问题,开启乐趣十足的极简开发之旅。
  • 推理开发工具:作为昇腾统一推理工具库,提供用户一体化开发所需功能,包含模型转换、模型压缩、精度调试和性能调优能力,可快速完成多种主流推理框架在昇腾平台上的迁移,轻松解决精度和性能问题,助力用户实现极致推理性能。
  • 算子开发工具:在完备的调试工具和多样的调优数据的帮助下,通过Ascend C的多层接口抽象,简化用户编程难度,助力开发者低成本完成高性能算子开发。

    算子工具包含算子开发工具和算子编译工具:算子开发工具是一款功能强大、易于使用的开发工具,它为Ascend C编程语言的开发者提供了全面的支持和帮助,使得高性能算子开发变得更加简单和高效。算子编译工具为昇腾CANN提供了算子编译的功能,使得开发者能够轻松地将自己的算子代码编译成可在昇腾AI处理器上运行的二进制文件。

  • 可视化工具:MindStudio Insight是一款用于模型、算子、服务化及内存性能调优的可视化工具,可显著提升开发者进行性能调优的效率。
    • 模型调优场景:提供了多维度性能数据分析功能,包括内存定界、算子、调度、通信等方面的分析功能,并结合专家建议,帮助开发者高效定位问题。针对大模型集群场景,支持对集群性能Timeline数据并行分析,使开发者快速识别通信慢、卡顿和链路瓶颈等问题。
    • 算子调优场景:支持算子内存和计算负载分析、Roofline瓶颈分析、代码性能度量及指令流水并行分析等功能,助力开发者快速实现算子性能调优。
    • 服务化调优:通过Timeline视图和折线图来呈现推理服务化进程中各个关键阶段的执行情况和端到端的性能表现,帮助开发者快速识别请求调度、显存管理、批处理策略等系统级问题。
    • 内存调优:支持Device侧可视化呈现内存的详细分配情况,并结合Python调用栈及自定义打点标签来标记各种内存申请与使用详情,从而实现内存问题的精准定位及调优。

MindStudio和CANN是什么关系

CANN(Compute Architecture for Neural Networks)是华为针对AI场景推出的异构计算架构,对上支持多种AI框架,对下服务AI处理器与编程,发挥承上启下的关键作用,是提升昇腾AI处理器计算效率的关键平台。

MindStudio是基于CANN的全流程开发工具链。使用MindStudio前需安装对应版本的CANN软件包。二者的版本配套关系可以参考各版本MindStudio的“版本说明”。

使用MindStudio的整体开发流程是什么

MindStudio工具链中各子工具的使用流程请参考图1图2图3

图1 算子工具旅程图
图2 训练工具旅程图
图3 推理工具旅程图