简介
msServiceProfiler Trace提供基于OpenTelemetry Protocol(OTLP)协议的Trace数据转发服务,该服务用于接收、处理和转发分布式Trace数据,帮助用户监控和分析微服务架构的性能表现。
msServiceProfiler Trace采集MindIE Motor服务中的请求响应时间、响应状态、客户端IP/端口、服务端IP/端口等数据,最后将采集到的数据推送至Jaeger等支持OTLP协议的开源监控平台进行可视化分析。
- 当前版本主要面向MindIE推理框架,支持单机及多机PD竞争部署模式。
- 当前仅支持对MindIE的/v1/chat/completions和/v1/completions两个请求发送的核心接口进行Trace监控。
- msServiceProfiler Trace数据监控接口包括“msServiceProfiler API参考(C++) > Trace数据监控”。
- 有关MindIE Motor相关介绍请参见《MindIE Motor开发指南》。