华为计算微信公众号
昇腾AI开发者公众号
华为计算微博
华为计算今日头条
昇腾社区首页
昇腾论坛
0
/100
支持
消息
我的论坛主页
论坛首页
/
300I-MindIE2.1.RC2运行Qwen2.5-7B和Qwen3-4B首次响应耗时接近
点赞
0
收藏
0
回复
0
分享
举报
只看楼主
300I-MindIE2.1.RC2运行Qwen2.5-7B和Qwen3-4B首次响应耗时接近
已解决
发表于2025-11-18 19:30:11
0
查看
如提,使用最新MindIE2.1.RC2在300I Pro上运行Qwen2.5-7B和Qwen3-4B,使用modeltest的性能测试发现两者对1024输入长度的首次响应时间分别为505ms和498ms,模型接近差了一倍大小,但首次响应时间接近,很不正常,求解答,谢谢
匿名回复
发表
我要发帖子
我们使用cookie来确保您的高速浏览体验。继续浏览本站,即表示您同意我们使用cookie。
查看详情