华为计算微信公众号
昇腾AI开发者公众号
华为计算微博
华为计算今日头条
各位大佬300IDuo推理卡单卡要是使用deepseek的R1 14B模型进行语言推理,我想问一下每秒的token是多少,首次输出token的时间是多久,能不能使用双卡跑一个R1 14B的模型。
我要发帖子
各位大佬300IDuo推理卡单卡要是使用deepseek的R1 14B模型进行语言推理,我想问一下每秒的token是多少,首次输出token的时间是多久,能不能使用双卡跑一个R1 14B的模型。