昇腾社区首页
支持
消息
我的论坛主页
论坛首页
/
DeepSeek-R1-671B摸高测试需求
收藏回复举报
DeepSeek-R1-671B摸高测试需求
t('forum.solved') 已解决
新人帖
发表于2025-05-07 08:59:01
0 查看
mindie最新镜像2.0.T3中的atb测试脚本仅支持DS单机推理性能摸高测试（限制非首token时延下，找到最大的batchsize），目前业务需要对671B模型进行推理性能摸高测试，有什么解决办法吗？

我要发帖子

我们使用cookie来确保您的高速浏览体验。继续浏览本站，即表示您同意我们使用cookie。查看详情