昇腾社区首页
支持
消息
我的论坛主页
论坛首页
/
deepseek-r1量化版本w8a8,2台Atlas 800I A2 (8*64G)上部署问题
收藏回复举报
deepseek-r1量化版本w8a8,2台Atlas 800I A2 (8*64G)上部署问题
t('forum.solved') 已解决
新人帖
发表于2025-03-17 15:26:05
0 查看
部署最大支持的上下文，配置时，达不到128k，即满血版官方公布的最大上下文长度，提示out of memory

我要发帖子

我们使用cookie来确保您的高速浏览体验。继续浏览本站，即表示您同意我们使用cookie。查看详情