配置项介绍
插件性能统计功能新增了MindX SDK的配置文件“${MX_SDK_HOME}/config/sdk.conf”。如图1所示,配置项注释中如果注明了“[dynamic config]”,说明这个配置项是动态可配置。(如果配置项的值小于最小值,则会设置成最小值。如果配置项的值大于最大值,则会设置成最大值。)配置项说明请参见配置项介绍。

队列长度统计的时间间隔 * 队列长度统计次数需小于推理总时间,如未生成.queue日志,可通过降低时间间隔(ps_queue_size_interval_time)或统计次数(ps_queue_size_times)的方式进行调试。
配置项 |
说明 |
---|---|
enable_ps |
性能统计开关。 |
ps_log_dir |
性能统计日志目录。 |
ps_log_filename |
性能统计日志文件名。端到端日志文件会添加后缀.e2e。单插件、模型推理、后处理的日志文件会添加后缀.plugin。吞吐率日志文件会添加后缀.tpr。队列长度日志文件会添加后缀.queue。 |
ps_max_log_size |
性能统计日志文件最大长度,日志文件大小超过这个值,将切换新的日志文件。 |
ps_queue_size_warn_percent |
队列长度告警值百分比。当队列当前长度达到了队列总长度的告警值,将会打印告警日志。 |
ps_interval_time |
性能统计时间间隔,端到端、单插件、模型推理、后处理的性能统计时间间隔。 |
ps_queue_size_interval_time |
队列长度统计的时间间隔。 |
ps_queue_size_times |
队列长度统计次数。 |
malloc_max_data_size |
设置申请内存的上限数值,默认为1G。 |
父主题: 插件性能统计工具