Atlas 300I Duo 是否支持qwen2.5长序列
收藏回复举报
Atlas 300I Duo 是否支持qwen2.5长序列
t('forum.solved') 已解决
发表于2025-06-03 14:45:13
0 查看

请问:Atlas 300I Duo 是否支持qwen2.5长序列,如何配置。

已配置下列扩容,但启动时还是提示超过32k

"rope_scaling": { 

    "factor": 4.0, 

    "original_max_position_embeddings": 32768, 

    "type": "yarn" 

}

我要发帖子