MindIE-service如何运行多个模型
收藏回复举报
MindIE-service如何运行多个模型
t('forum.solved') 已解决
新人帖
发表于2025-01-17 14:55:05
0 查看

镜像版本:1.0.T71-800I-A2-py311-ubuntu22.04-arm64

如果在ModelConfig中添加多组单个测试成功的模型,会报应该只能有一个。

cke_8525.png

cke_7447.png

应该如何配置,才可以在一个容器中用MindIE-service起多个模型,如何按照一个容器起一个,那关于卡的分配该怎么处理,例如嵌入模型的占用很少,但是需要占用一张卡之类的情况。

我要发帖子