华为计算微信公众号
昇腾AI开发者公众号
华为计算微博
华为计算今日头条
1,2021年买的atlas推理服务器,配置如下,按理说性能应该很强,但这使用的是NPU而不是GPU,安装基于ollama安装了deepseek7b就比较卡,更不用说32b了,这个如何优化解决,请官方给个解决方案撒,不然十几万的设备成砖头了。。。
我要发帖子
1,2021年买的atlas推理服务器,配置如下,按理说性能应该很强,但这使用的是NPU而不是GPU,安装基于ollama安装了deepseek7b就比较卡,更不用说32b了,这个如何优化解决,请官方给个解决方案撒,不然十几万的设备成砖头了。。。