300I-MindIE2.1.RC2运行Qwen2.5-7B和Qwen3-4B首次响应耗时接近
收藏回复举报
300I-MindIE2.1.RC2运行Qwen2.5-7B和Qwen3-4B首次响应耗时接近
t('forum.solved') 已解决
发表于2025-11-18 19:30:11
0 查看
如提,使用最新MindIE2.1.RC2在300I Pro上运行Qwen2.5-7B和Qwen3-4B,使用modeltest的性能测试发现两者对1024输入长度的首次响应时间分别为505ms和498ms,模型接近差了一倍大小,但首次响应时间接近,很不正常,求解答,谢谢

我要发帖子