请问昇腾910A可以支持Qwen2.5-72b的推理吗?如果支持,至少需要几张卡?谢谢!
收藏回复举报
请问昇腾910A可以支持Qwen2.5-72b的推理吗?如果支持,至少需要几张卡?谢谢!
t('forum.solved') 已解决
发表于2025-01-23 15:19:22
0 查看

几个问题:

1.昇腾910A可以支持Qwen2.5-72b的推理吗?如果支持,至少需要几张卡?

2.同样8张卡,昇腾910A和昇腾910B用作Qwen2.5-72b推理的话,性能差距有多少?

3. 同时对于磁盘、CPU、内存有什么最低要求吗?

谢谢!

我要发帖子