DeepSeek-R1部署
收藏回复举报
DeepSeek-R1部署
t('forum.solved') 已解决
新人帖
发表于2025-02-23 18:21:30
0 查看

有人成功将蒸馏的1.5b的deepseek部署在Atlas 200I DK A2上了吗?

用ollama跑了一下只用了cpu,没用到npu,速度极慢。

20Tops/8G的硬件能否支撑1.5b的deepseek,请成功的大佬来帮帮

我要发帖子