开发工具

分析迁移工具

• 迁移工具支持输出亲和API的分析报告。
• 迁移工具支持PyTorch2.2版本。

msModelSlim工具

• 大模型量化支持MOE模型W8A8 per-token量化场景。
• 大模型量化支持MOE模型权重W8A16量化场景。
• 大模型量化支持通信int8量化场景。
• 大模型量化W4A16权重量化GPTQ、HQQ支持per-group量化场景。
• 大模型量化W8A16支持per-group量化场景。
• 支持大模型长序列压缩。

性能调优工具

• PyTorch场景支持轻量级打点在线版本。

• PyTorch场景支持非侵入式profiling。
• PyTorch场景支持gc识别。
• MindSpore场景支持动态profiling能力。
• MindSpore场景支持呈现调用栈火焰图。
• 支持MSPTI计算类任务性能接口。
• 支持mstx打点接口。

算子开发工具

• msProf工具支持核间负载分析图、roofline模型图。
• msProf工具支持mstx接口实现分段采集。
• msSanitizer工具支持变量未初始化使用检测。
• msSanitizer工具支持PIPE流水内同步检测。

公共能力

各工具对Atlas 200T A2 Box16 异构子框、Atlas 800T A2 训练服务器、Atlas 900 A2 PoD 集群基础单元、Atlas 300I A2进行了适配。