mis-tei镜像启动bge-reranker-v2-m3后的batch_size参数
收藏回复举报
mis-tei镜像启动bge-reranker-v2-m3后的batch_size参数
t('forum.solved') 已解决
新人帖
发表于2025-06-18 17:27:55
0 查看
我用mis-tei镜像启动bge-reranker-v2-m3后的 调用报错error batch size 49 > maximum allowed batch size 32,是不是这个mis-tei 默认是32 哪里可以修改配置, 是不是要用https://www.hiascend.com/developer/ascendhub/detail/0ec47fdcbb3a4634bbdcbcc0f8b2f5ce这个镜像才可以

我要发帖子