mindie可不可以部署embedding模型,我找到的教程只有部署LLM模型的,然后我部署embedding模型时又报错了
收藏回复举报
mindie可不可以部署embedding模型,我找到的教程只有部署LLM模型的,然后我部署embedding模型时又报错了
t('forum.solved') 已解决
新人帖
发表于2025-06-05 17:59:16
0 查看
docker run -it -d --net=host --shm-size=1g \ 

    --privileged \ 

    --name  bge-large-zh-v1.5 \ 

    --device=/dev/davinci_manager \ 

    --device=/dev/hisi_hdc \ 

    --device=/dev/devmm_svm \ 

    -v /usr/local/Ascend/driver:/usr/local/Ascend/driver:ro \ 

    -v /usr/local/sbin:/usr/local/sbin:ro \ 

    -v //home/BAAI/bge-large-zh-v1.5:/mnt/bge-large-zh-v1.5:ro \ 

    mindie:1.0.0-300I-Duo-py311-openeuler24.03-lts

image.png

如果可以的话如何修改config文件,感谢!

我要发帖子