Atlas 800I A2 32G机器,4个模型可以同时运行在8张卡上启动服务成功,单独运行一个模型执行curl没问题,但是混合在8张卡后执行curl就会报错“Segmentation fault (core dumped)”
收藏回复举报
Atlas 800I A2 32G机器,4个模型可以同时运行在8张卡上启动服务成功,单独运行一个模型执行curl没问题,但是混合在8张卡后执行curl就会报错“Segmentation fault (core dumped)”
t('forum.solved') 已解决
发表于2025-06-10 16:30:52
0 查看
【两个小模型】maidalun/bce-embedding-base_v1、maidalun/bce-reranker-base_v1 

【一个大语言模型】DeepSeek-R1-Distill-Qwen-32B 

【一个多模态大模型】Internvl2_5-8B

cke_552.png

cke_1219.png

我要发帖子