两台昇腾910b 跑deepseek-r1-0528-W8A8,怎么提高生成token的速度
收藏回复举报
两台昇腾910b 跑deepseek-r1-0528-W8A8,怎么提高生成token的速度
t('forum.solved') 已解决
新人帖
发表于2025-06-07 11:54:39
0 查看
目前只有11token/s,怎么提示单次的速度

我要发帖子