mindie部署模型后,并发多的情况下请求报错
收藏回复举报
mindie部署模型后,并发多的情况下请求报错
t('forum.solved') 已解决
发表于2025-08-14 10:31:33
0 查看

使用mindie,部署qwen3-32B后,可正常访问,但是测试时发现,当并发数达到300时,部分请求会报错。
200并发无报错,300并发时,并发请求报错。

mindie版本:mindie:2.0.RC2-800I-A2-py311-openeuler24.03-lts

部分请求报错:('Connection aborted.', ConnectionResetError(104, 'Connection reset by peer'))

请问,是否请求有什么并发限制,或者需要调整什么参数可以避免报错?

本帖最后由 匿名用户2025/08/14 13:37:09 编辑

我要发帖子