华为计算微信公众号
昇腾AI开发者公众号
华为计算微博
华为计算今日头条
如题。
我司想部署一套DeepSeek-R1,但算力资源比较有限。请问能否使用6张Atlas 300I Duo 推理卡,运行DeepSeek-R1 4bit量化版模型?
本帖最后由 匿名用户 于 2025/02/24 15:45:23 编辑
我要发帖子
如题。
我司想部署一套DeepSeek-R1,但算力资源比较有限。请问能否使用6张Atlas 300I Duo 推理卡,运行DeepSeek-R1 4bit量化版模型?