ulimit -n
Coordinator由于使用HTTPS与用户通信,在收到推理请求时,会生成socket系统文件。socket系统文件的数量与并发推理请求数相关,当超过最大文件数上限时,会导致Coordinator程序运行失败。
如果最大文件数太低,建议配置ulimit值,配置为:3*最大并发请求数。使用以下命令配置ulimit值:
ulimit -n 1500