DeepSeek对昇腾硬件的参数需求
收藏回复举报
DeepSeek对昇腾硬件的参数需求
t('forum.solved') 已解决
发表于2025-02-17 12:31:03
0 查看

你好,最近很多客户咨询DeepSeek在昇腾服务器上部署的需求,麻烦解答下针对不同的参数量推荐下对“鲲鹏+昇腾”硬件的最低需求的CPU核数、内存、显存、硬盘的最低满足规格。

比如不同DeepSeek参数规格的硬件需求:

满足671B最低需求的处理器核数、内存大小、显存大小、硬盘大小、并发用户数、Tokens吞吐数

满足70B最低需求的处理器核数、内存大小、显存大小、硬盘大小、并发用户数、Tokens吞吐数

满足32B最低需求的处理器核数、内存大小、显存大小、硬盘大小、并发用户数、Tokens吞吐数

…………

本帖最后由 匿名用户 于 2025/02/17 14:25:45 编辑

我要发帖子