华为计算微信公众号
昇腾AI开发者公众号
华为计算微博
华为计算今日头条
使用msi-tei的docker镜像启动bge-m3和bge-reranker-v2-m3后,如何查看并修改这两个模型的推理精度和batch_size?
本帖最后由 匿名用户 于 2026/01/15 10:23:16 编辑
我要发帖子
使用msi-tei的docker镜像启动bge-m3和bge-reranker-v2-m3后,如何查看并修改这两个模型的推理精度和batch_size?