
将整个工具链按功能模块清晰地分为四大类别,覆盖了AI模型推理部署与优化的完整生命周期:
- 可视化:对应工具 MindStudio Insight,提供算子级、系统级的多维度性能分析可视化能力。
- 开发:对应工具 msModelSlim,是一个模型压缩工具,提供多种量化策略,支持模型一键量化,以减小模型体积、提升推理效率。
- 调试:包含两个工具:
- msProbe:精度调试工具,用于精度数据采集与解析。
- msMemScope:内存检测工具,提供内存数据采集、自动诊断和优化分析能力。
- 调优:包含四个工具,专注于性能优化:
- msProf:性能调优工具,提供性能数据采集基础能力。
- msServiceProfiler:服务化调优工具,提供性能数据采集及解析,支持参数自动寻优。
- msProf-Analyze:专家建议工具,用于快速识别性能瓶颈。
- msMonitor:在线监测工具,提供集群场景下的性能监测及快速定位能力。
扫描二维码,关注MindStudio微信公众号,学习前沿技术知识

将整个工具链按功能模块清晰地分为四大类别,覆盖了AI模型推理部署与优化的完整生命周期:
扫描二维码,关注MindStudio微信公众号,学习前沿技术知识