华为计算微信公众号
昇腾AI开发者公众号
华为计算微博
华为计算今日头条
机型:Atlas 800T A2 双机部署0324-w8a8,上下文设置过大显存会溢出,想要达到128k上下文有什么办法,用四机部署w8a8能到吗?
我要发帖子
机型:Atlas 800T A2 双机部署0324-w8a8,上下文设置过大显存会溢出,想要达到128k上下文有什么办法,用四机部署w8a8能到吗?