MindStudio MindStudio是华为面向昇腾AI开发者提供的全流程工具链,致力于提供端到端的昇腾AI应用开发解决方案,使能开发者高效完成训练开发、推理开发和算子开发。 版本说明 MindStudio配套的CANN版本、当前版本的变更和问题修复。 快速入门 训练、推理、算子开发场景的工具使用快速入门。 可视化工具 MindStudio Insight工具 可视化调优工具,辅助定位模型和算子的性能问题。 可视化插件(Tensorboard) 将Ascend PyTorch Profiler工具采集的性能数据、loss曲线进行可视化呈现以及loss数据比对。 算子开发 算子开发工具 算子开发工具集(msKPP、msOpGen、msOpST、msSanitizer、msDebug和msProf等)的使用指导。 算子编译工具 编译算子生成算子二进制文件。 训练开发 分析迁移 分析迁移工具 将PyTorch训练脚本一键式迁移至昇腾NPU。 精度调试 MindStudio精度调试工具(MindStudio Probe) PyTorch和MindSpore训练场景的精度数据采集、预检、比对等。 精度调试工具 TensorFlow训练场景的精度比对。 性能调优 性能调优工具 PyTorch、TensorFlow训练等场景的性能数据采集和分析。 性能比对工具(compare_tools) PyTorch和MindSpore训练场景的性能数据比对。 集群分析工具(cluster_analyse) PyTorch和MindSpore训练场景的集群性能数据分析。 专家建议工具(advisor) PyTorch和MindSpore训练场景的性能数据分析,并输出专家建议。 昇腾亲和性CPU绑核工具 按CPU亲和性策略绑核,提升推理或训练性能。 msLeaks内存泄漏检测工具 模型训练过程中的内存问题检测。 扩展功能 HCCL性能测试工具 测试HCCL集合通信的功能正确性以及性能。 算子及模型速查工具 查询当前版本CANN支持的模型和算子。 推理开发 模型转换 ATC离线模型编译工具 模型转换工具,将网络模型转换为昇腾AI处理器支持的.om离线模型。 模型压缩 模型量化工具(msModelSlim) 以加速为目标、压缩为技术、昇腾为根本的亲和压缩工具。 AMCT模型压缩工具 模型压缩工具包,提供量化、张量分解等多种模型压缩特性。 自动调优 传统模型自动调优(msit debug surgeon) surgeon提供基于ONNX模型的改图优化功能。 AOE调优工具 自动调优工具,充分利用硬件资源,提升网络的性能。 精度调试 大模型推理精度工具(Large Language Model Debug Tool) 提供大模型推理数据自动bad case分析、dump、自动比对等功能。 传统模型推理工具 传统模型推理的一站式调试功能,如数据dump、自动比对、精度预检。 精度调试工具 TensorFlow、ONNX、Caffe推理场景的精度比对。 性能调优 性能调优工具 MindIE Service推理服务化、TensorFlow推理等场景的性能数据采集和分析。 msLeaks内存泄漏检测工具 模型推理过程中的内存问题检测。 扩展功能 算子及模型速查工具 查询当前版本CANN支持的模型和算子。 案例&参考 实践案例 大模型推理精度问题分析案例 大模型训练性能瓶颈定位流程案例 大模型训练精度问题定位案例 传统模型推理迁移调试调优全流程指南 大模型推理量化调试调优指南 参考 昇腾产品形态说明 MindStudio公网URL及邮箱 MindStudio通信矩阵