【MindStudio Insight工具上新】MindStudio Insight 最新版本安装包(最近更新2025-630商发包)
收藏回复举报
【MindStudio Insight工具上新】MindStudio Insight 最新版本安装包(最近更新2025-630商发包)
新人帖
发表于2025-01-22 11:18:37
0 查看

8.1.RC1(2025-07-29发布)630商发版本-获取方式

【无需申请,昇腾社区登录即可下载】

https://www.hiascend.com/developer/download/community/result?module=pt+sto+cann

【用户指南】

https://www.hiascend.com/document/detail/zh/mindstudio/81RC1/GUI_baseddevelopmenttool/msascendinsightug/Insight_userguide_0002.html

8.1.RC1(2025-07-29发布)630商发版本-新特性简介

1 支持单Host多Device场景性能数据展示与分析

支持导入单Host 多Device数据,展示流水及每个Device上的内存和算子信息。

2 支持多Stream合并

支持 Ascend Hardware 泳道下的 Stream 泳道的合并展示、取消合并。适用于aclGraph采集等场景。

3 支持强化学习场景多模型联合分析

前提:导入强化学习多模型数据

Timeline\Memory\Operator\Summary\Communication 页面支持多模型数据展示。

4 支持推理服务化调优KVCache、Request、Batch数据统计与分析

1. 支持展示服务化端到端性能折线图
2. 支持KVCache、Request、Batch等关键性能指标统计
3. 支持用户自定义sql语句查询结果折线图呈现

5 并行策略分析:新增支持MindIE-LLM、vLLM场景、支持慢卡专家建议

Summary界面“并行策略分析”功能新增对于推理场景支持,包括MindIE-LLM与vLLM两个推理加速库算法。

降低了功能使用门槛,提升快慢卡问题定位效率。具体包括慢卡专家建议功能,与一系列易用性优化(Tooltips说明、不同维度间折叠/展开跳转、按目标编号查找、连线跳转至通信算子耗时分析、复制属性值、按性能指标设置热力图筛选上限/下限)。

6 支持MoE模型专家分布热点图展示以及负载均衡分析

1.支持基于profiling数据的MoE专家热点解析:导入大ep数据时,从profiling数据中获取模型层数、非moe层列表等,以GroupedMatmul算子耗时作为专家热点依据

2.支持基于dump数据的MoE专家热力图展示

3.支持基于dump数据的MoE专家负载均衡分析

7 支持通信专家建议

通信页面的专家建议板块,现在支持展示通信小包通信算子字节对齐通信带宽抢占通信重传这四类通信传输问题检测,用户可以根据其中展示的指标和专家建议进行性能调优。

8 Timeline支持CPU利用率、系统调用、PCIE/NIC等资源信息展示

Timeline现在支持展示CPU利用率等Host信息、系统调用类事件、网卡信息。限制:网卡信息仅限db格式文件,且要求db文件中有NETDEV_STATS表。

9 支持内存逐级拆解展示

支持模型、优化器、权重、梯度等NPU内存申请情况拆解;支持用户自定义打点代码段、函数段内存申请情况拆解。

8.0.T103(2025-04-15发布)POC版本-获取方式

【华为云OBS-免申请】

https://ascend-package.obs.cn-north-4.myhuaweicloud.com:443/Ascend-Insight/8.0.T103/MindStudio-Insight_8.0.T103_darwin-aarch64.dmg

https://ascend-package.obs.cn-north-4.myhuaweicloud.com:443/Ascend-Insight/8.0.T103/MindStudio-Insight_8.0.T103_darwin-x86_64.dmg

https://ascend-package.obs.cn-north-4.myhuaweicloud.com:443/Ascend-Insight/8.0.T103/MindStudio-Insight_8.0.T103_linux-aarch64.zip

https://ascend-package.obs.cn-north-4.myhuaweicloud.com:443/Ascend-Insight/8.0.T103/MindStudio-Insight_8.0.T103_linux-x86_64.zip

https://ascend-package.obs.cn-north-4.myhuaweicloud.com:443/Ascend-Insight/8.0.T103/MindStudio-Insight_8.0.T103_win.exe

https://ascend-package.obs.cn-north-4.myhuaweicloud.com:443/Ascend-Insight/8.0.T103/mindstudio_insight_jupyterlab-8.0.103-py3-none-linux_aarch64.whl

https://ascend-package.obs.cn-north-4.myhuaweicloud.com:443/Ascend-Insight/8.0.T103/mindstudio_insight_jupyterlab-8.0.103-py3-none-linux_x86_64.whl

8.0.T103(2025-04-15发布)版本-新特性简介

2.1 集群并行策略可视化分析优化

功能优化:增加了对MindSpeed算法的支持、增加了按通信域展示性能指标功能、连线增加了专家并行通信域展示

易用性优化:增加连线悬停效果、生成按钮新增二次确认弹窗、染色策略优化、Tooltip 字段按固定顺序展示、增加性能图表的图例状态记忆

2.2 支持推理服务化trace数据

timeline支持查看推理服务化采集的json数据

2.3 支持算子局部搜索跟连线能力

timeline支持范围连线和搜索功能

2.4 置顶泳道支持自定义排序

Timeline新增置顶泳道拖拽排序功能,用户可以按照期望的顺序重排置顶泳道,方便不同卡间泳道纵向比对。

2.5 支持同一个通信域一键解析、一键置顶

timeline支持支持一键解析相关通信域中未解析的卡,支持同一个通信域一键置顶。

2.6 算子可视化调优

2.6.1 支持算子源码视图L2 cache命中和指令对应关系,并支持筛选

新增查看L2 Cache命中率,支持排序、筛选、查看关联代码行。

2.6.2 支持算子源码视图搜索能力

新增用关键字搜索源文件代码,支持大小写、全词匹配、划区查询。

2.6.3 支持cache miss与指令映射关系

新增缓存(Cache)界面支持展示用户程序Kernel函数内的L2 Cache访问情况,以便用户优化Cache命中率。点击内存单元,即可查看关联指令信息。

2.7 蓝区插件

2.7.1 支持Scalar插件断点续训拼接能力

Scalar插件扩展Insight的能力,支持查看pytorch、mindspore、mindforms框架产生的标量数据,便于用户查看训练过程中标量数据的变化趋势。本次新增文件合并功能支持用户将多个文件数据合并查看。

2.7.2 支持ge dump可视化能力

ModelVis插件支持展示动态算子和重复子图

—————————————————————————

7.0.T803(2025-01-21发布)POC版本-获取方式

【华为云OBS-免申请】

https://ascend-package.obs.cn-north-4.myhuaweicloud.com:443/Ascend-Insight/7.0.T803/MindStudio-Insight_7.0.T803_darwin-aarch64.dmg

https://ascend-package.obs.cn-north-4.myhuaweicloud.com:443/Ascend-Insight/7.0.T803/MindStudio-Insight_7.0.T803_darwin-x86_64.dmg
https://ascend-package.obs.cn-north-4.myhuaweicloud.com:443/Ascend-Insight/7.0.T803/MindStudio-Insight_7.0.T803_linux-aarch64.zip
https://ascend-package.obs.cn-north-4.myhuaweicloud.com:443/Ascend-Insight/7.0.T803/MindStudio-Insight_7.0.T803_linux-x86_64.zip
https://ascend-package.obs.cn-north-4.myhuaweicloud.com:443/Ascend-Insight/7.0.T803/MindStudio-Insight_7.0.T803_win.exe
https://ascend-package.obs.cn-north-4.myhuaweicloud.com:443/Ascend-Insight/7.0.T803/mindstudio_insight_jupyterlab-7.0.803-py3-none-linux_x86_64.whl
https://ascend-package.obs.cn-north-4.myhuaweicloud.com:443/Ascend-Insight/7.0.T803/mindstudio_insight_jupyterlab-7.0.803-py3-none-linux_aarch64.whl

【supportE-需申请】

https://support.huawei.com/enterprise/zh/ascend-computing/mindstudio-pid-251913966/software/263822595/?idAbsPath=fixnode01|23710424|251366513|254884019|261408772|251913966

【用户指南】

https://support.huawei.com/enterprise/zh/doc/EDOC1100438162?idPath=23710424|251366513|254884019|261408772|251913966

7.0.T803(2025-01-21发布)版本-新特性简介

  • 2.1 支持集群并行策略可视化分析

    • 2.1.1 支持域维度层次化分析性能差异

      说明:Summary页面支持按照DPDP+PP DP+PP+CPDP+PP+CP+TP四种不同域维度进行层次化性能指标分析。

    • 2.1.2 支持MOE专家并行策略分析

      说明:Summary页面支持MOE模型专家并行(Expert Parallel)策略分析

    • 2.1.3 集群流水并行图展示优化

      Summary页面选择一条Pipeline并行时能展示前反向与P2P通信算子时序关系图

  • 2.2 timeline支持内存分析能力增强

    • 2.2.1 timeline支持内存搬运量和方向展示

      说明:Timeline页面支持内存搬运连线、数据大小、带宽展示

    • 2.2.2 timeline展示内存申请趋势详情

      说明:支持从Memory页面一键跳转到Timeline页面对应的算子

  • 2.3 算子视图支持PMU全量性能指标展示

    说明:算子视图支持PMU全量性能指标展示

  • 2.4 Insight Mac版本通过APP形式发布

    说明:Insight MacOS下构建MacOS .dmg分发的.app应用,替换原.zip交付件。通过.dmg安装app应用后,可直接在应用中心打开Insight,且只需信任一次。

本帖最后由 匿名用户2025/07/29 16:19:32 编辑

我要发帖子