昇腾社区首页
支持
消息
我的论坛主页
论坛首页
/
配置参数如何设置
收藏回复举报
配置参数如何设置
t('forum.solved') 已解决
发表于2025-02-17 11:18:33
0 查看

部署的模型为DeepSeek-R1-Distill-Llama-70B，其支持的最大序列长度为131072；

cke_2235.png

服务器资源为4 * 910b3

cke_185.png

请问如何合理配置参数文件，使模型接受上下文长度达到最大值

cke_14720.png

我要发帖子

我们使用cookie来确保您的高速浏览体验。继续浏览本站，即表示您同意我们使用cookie。查看详情