ollama怎么调用Atlas 300 pro NPU卡
收藏回复举报
ollama怎么调用Atlas 300 pro NPU卡
t('forum.solved') 已解决
新人帖
发表于2025-03-19 11:26:00
0 查看

环境:1台鲲鹏920CPU的服务器+2块Atlas 300 pro NPU卡,安装的操作系统为麒麟v10 SP3,现已经在物理服务器操作系统上部署完成ollama,并且DeepSeek-R1-Distill-Qwen-32B-Q8模型也正常运行了,问题是ollama无法调用NPU卡,一直使用CPU运行

各位大佬、高手们,这个问题怎么能解决?急求!!!

cke_5362.png

cke_14485.png

我要发帖子