你好,最近很多客户咨询DeepSeek在昇腾服务器上部署的需求,麻烦解答下针对不同的参数量推荐下对“鲲鹏+昇腾”硬件的最低需求的CPU核数、内存、显存、硬盘的最低满足规格。
比如不同DeepSeek参数规格的硬件需求:
满足671B最低需求的处理器核数、内存大小、显存大小、硬盘大小、并发用户数、Tokens吞吐数
满足70B最低需求的处理器核数、内存大小、显存大小、硬盘大小、并发用户数、Tokens吞吐数
满足32B最低需求的处理器核数、内存大小、显存大小、硬盘大小、并发用户数、Tokens吞吐数
…………
你好,最近很多客户咨询DeepSeek在昇腾服务器上部署的需求,麻烦解答下针对不同的参数量推荐下对“鲲鹏+昇腾”硬件的最低需求的CPU核数、内存、显存、硬盘的最低满足规格。
比如不同DeepSeek参数规格的硬件需求:
满足671B最低需求的处理器核数、内存大小、显存大小、硬盘大小、并发用户数、Tokens吞吐数
满足70B最低需求的处理器核数、内存大小、显存大小、硬盘大小、并发用户数、Tokens吞吐数
满足32B最低需求的处理器核数、内存大小、显存大小、硬盘大小、并发用户数、Tokens吞吐数
…………