华为计算微信公众号
昇腾AI开发者公众号
华为计算微博
华为计算今日头条
一台4卡310I DUO鲲鹏服务器,驱动是25.0.rc1.1,操作系统是麒麟Linux,使用GPUStack 0.62运行Qwen3-32B和DeepSeek-R1 32B模型,输出性能只有5Token,算是正常吗?有什么办法调优?
我要发帖子
一台4卡310I DUO鲲鹏服务器,驱动是25.0.rc1.1,操作系统是麒麟Linux,使用GPUStack 0.62运行Qwen3-32B和DeepSeek-R1 32B模型,输出性能只有5Token,算是正常吗?有什么办法调优?