MindStudio
MindStudio是华为面向昇腾AI开发者提供的全流程工具链,致力于提供端到端的昇腾AI应用开发解决方案,使能开发者高效完成训练开发、推理开发和算子开发。
可视化工具
- MindStudio Insight工具
可视化调优工具,辅助定位模型和算子的性能问题。
- 可视化插件(Tensorboard)
将Ascend PyTorch Profiler工具采集的性能数据、loss曲线进行可视化呈现以及loss数据比对。
训练开发
- 分析迁移工具
将PyTorch训练脚本一键式迁移至昇腾NPU。
- MindStudio精度调试工具(MindStudio Probe)
PyTorch和MindSpore训练场景的精度数据采集、预检、比对等。
- 精度调试工具
TensorFlow训练场景的精度比对。
- 性能调优工具
PyTorch、TensorFlow训练等场景的性能数据采集和分析。
- 性能比对工具(compare_tools)
PyTorch和MindSpore训练场景的性能数据比对。
- 集群分析工具(cluster_analyse)
PyTorch和MindSpore训练场景的集群性能数据分析。
- 专家建议工具(advisor)
PyTorch和MindSpore训练场景的性能数据分析,并输出专家建议。
- 昇腾亲和性CPU绑核工具
按CPU亲和性策略绑核,提升推理或训练性能。
- msLeaks内存泄漏检测工具
模型训练过程中的内存问题检测。
- HCCL性能测试工具
测试HCCL集合通信的功能正确性以及性能。
- 算子及模型速查工具
查询当前版本CANN支持的模型和算子。
推理开发
- ATC离线模型编译工具
模型转换工具,将网络模型转换为昇腾AI处理器支持的.om离线模型。
- 模型量化工具(msModelSlim)
以加速为目标、压缩为技术、昇腾为根本的亲和压缩工具。
- AMCT模型压缩工具
模型压缩工具包,提供量化、张量分解等多种模型压缩特性。
- 传统模型自动调优(msit debug surgeon)
surgeon提供基于ONNX模型的改图优化功能。
- AOE调优工具
自动调优工具,充分利用硬件资源,提升网络的性能。
- 大模型推理精度工具(Large Language Model Debug Tool)
提供大模型推理数据自动bad case分析、dump、自动比对等功能。
- 传统模型推理工具
传统模型推理的一站式调试功能,如数据dump、自动比对、精度预检。
- 精度调试工具
TensorFlow、ONNX、Caffe推理场景的精度比对。
- 性能调优工具
MindIE Service推理服务化、TensorFlow推理等场景的性能数据采集和分析。
- msLeaks内存泄漏检测工具
模型推理过程中的内存问题检测。
- 算子及模型速查工具
查询当前版本CANN支持的模型和算子。