昇腾社区首页
支持
我的论坛主页
论坛首页
/
最新版的2.1.RC1-800I-A2-py311-openeuler24.03-lts 部署Qwen3-235B-A22B （2台Atlas 800I A2 推理）目前推理速度10 token/s
收藏回复举报
最新版的2.1.RC1-800I-A2-py311-openeuler24.03-lts 部署Qwen3-235B-A22B （2台Atlas 800I A2 推理）目前推理速度10 token/s
t('forum.solved') 已解决
发表于2025-08-02 19:38:05
0 查看
单次请求的推理速度10 token/s，能否提高速度，怎么提高，有没有大佬指点一下

我要发帖子

我们使用cookie来确保您的高速浏览体验。继续浏览本站，即表示您同意我们使用cookie。查看详情