华为计算微信公众号
昇腾AI开发者公众号
华为计算微博
华为计算今日头条
几个问题:
1.昇腾910A可以支持Qwen2.5-72b的推理吗?如果支持,至少需要几张卡?
2.同样8张卡,昇腾910A和昇腾910B用作Qwen2.5-72b推理的话,性能差距有多少?
3. 同时对于磁盘、CPU、内存有什么最低要求吗?
谢谢!
我要发帖子
几个问题:
1.昇腾910A可以支持Qwen2.5-72b的推理吗?如果支持,至少需要几张卡?
2.同样8张卡,昇腾910A和昇腾910B用作Qwen2.5-72b推理的话,性能差距有多少?
3. 同时对于磁盘、CPU、内存有什么最低要求吗?
谢谢!