如何调整 DeepSeek-R1-Distill-Qwen-14B 最大输出数?
收藏回复举报
如何调整 DeepSeek-R1-Distill-Qwen-14B 最大输出数?
t('forum.solved') 已解决
发表于2025-03-03 17:11:13
0 查看

现在是这情况:

  部署: DeepSeek-R1-Distill-Qwen-14B 推理模型

   当输出内容比较多的时候总是被截断,调整  maxSeqLen 、  maxInputTokenLen 参数也没有起作用

   最大输出toen =  maxSeqLen - maxInputTokenLen 吗? 还是调整其他参数,请指教!

我要发帖子