使用tei-npu如何配置batch_size?
收藏回复举报
使用tei-npu如何配置batch_size?
t('forum.solved') 已解决
发表于2026-01-15 09:56:29
0 查看

cke_192.png

以上是我的docker部署bge-m3的配置,使用docker部署tei-npu如何调整batch_size的大小

本帖最后由 匿名用户2026/01/15 10:22:53 编辑

我要发帖子