请问6张Atlas 300I Duo 推理卡能否运行 DeepSeek-R1 4bit量化版?
收藏回复举报
请问6张Atlas 300I Duo 推理卡能否运行 DeepSeek-R1 4bit量化版?
t('forum.solved') 已解决
新人帖
发表于2025-02-24 15:40:15
0 查看

如题。

我司想部署一套DeepSeek-R1,但算力资源比较有限。请问能否使用6张Atlas 300I Duo 推理卡,运行DeepSeek-R1 4bit量化版模型?

本帖最后由 匿名用户2025/02/24 15:45:23 编辑

我要发帖子