工具简介
本文介绍推理服务化性能数据采集工具,本工具主要使用msServiceProfiler接口,在MindIE Service推理服务化进程中,采集关键过程的开始和结束时间点,识别关键函数或迭代等信息,记录关键事件,支持多样的信息采集,对性能问题快速定界。
- msServiceProfiler接口包括服务化性能数据采集API(C++)和服务化性能数据采集API(Python)。
- 有关MindIE Service相关介绍请参见《MindIE Service开发指南》。
工具使用流程如下:
父主题: 服务化调优工具