新手小白求助,服务器配的华为昇腾Atlas 300I Pro-24G显存 推理卡,装的麒麟V10系统,部署的dify+ollama,ollama为什么只跑cpu,不会调npu啊?跪求大佬指点
收藏回复举报
新手小白求助,服务器配的华为昇腾Atlas 300I Pro-24G显存 推理卡,装的麒麟V10系统,部署的dify+ollama,ollama为什么只跑cpu,不会调npu啊?跪求大佬指点
t('forum.solved') 已解决
新人帖
发表于2025-03-14 09:11:09
0 查看

新手小白求助,服务器配的华为昇腾Atlas 300I Pro-24G显存推理卡,装的麒麟V10系统,部署的dify+ollama,ollama为什么只跑cpu,不会调npu啊?跪求大佬指点

硬件配置:鲲鹏920 32核心*2,64G内存,480G SSD*2

cke_302.png

image.png

我要发帖子