想购买硬件,这个配置能跑得起来吗?
收藏回复举报
想购买硬件,这个配置能跑得起来吗?
t('forum.solved') 已解决
新人帖
发表于2025-02-21 17:37:36
0 查看

华为DeepSeek服务器【TS200-2280】2颗64核鲲鹏/512G内存/2块960G+10块8T/4张昇腾300I Duo 96G显存

上面这个配置,多卡的昇腾,他们之间通信带宽是走什么的? PCIe 4.0 ?

单卡是 408Gb/s 多卡怎么办?

用来跑 DeepSeek R1 70B  FP16  每秒大概有多少  Tokens ?

我要发帖子