atlas 800 3010使用ollama部署deepseek,运行很慢,如何调优
收藏回复举报
atlas 800 3010使用ollama部署deepseek,运行很慢,如何调优
t('forum.solved') 已解决
新人帖
发表于2025-02-17 16:01:08
0 查看

1,2021年买的atlas推理服务器,配置如下,按理说性能应该很强,但这使用的是NPU而不是GPU,安装基于ollama安装了deepseek7b就比较卡,更不用说32b了,这个如何优化解决,请官方给个解决方案撒,不然十几万的设备成砖头了。。。

cke_144.png

我要发帖子