华为计算微信公众号
昇腾AI开发者公众号
华为计算微博
华为计算今日头条
请问:Atlas 300I Duo 是否支持qwen2.5长序列,如何配置。
已配置下列扩容,但启动时还是提示超过32k
"rope_scaling": {
"factor": 4.0,
"original_max_position_embeddings": 32768,
"type": "yarn"
}
我要发帖子
请问:Atlas 300I Duo 是否支持qwen2.5长序列,如何配置。
已配置下列扩容,但启动时还是提示超过32k
"rope_scaling": {
"factor": 4.0,
"original_max_position_embeddings": 32768,
"type": "yarn"
}