华为计算微信公众号
昇腾AI开发者公众号
华为计算微博
华为计算今日头条
我用2张300V PRO，推14，32B QWQ32B都很顺利，没有任何额外配置，只是改了改config.json，300I PRO专门推理的卡反而不支持？？？？？
6张300I PRO，部署deepseek 32B，报headNum mod kvHeadNum should be zero，退出了，官方完全找不到资料，请原厂出个专家解决下吧
本帖最后由 匿名用户 于 2025/03/15 20:44:15 编辑
我要发帖子
点赞
收藏
回复
分享
举报
已解决 已解决
我用2张300V PRO，推14，32B QWQ32B都很顺利，没有任何额外配置，只是改了改config.json，300I PRO专门推理的卡反而不支持？？？？？
6张300I PRO，部署deepseek 32B，报headNum mod kvHeadNum should be zero，退出了，官方完全找不到资料，请原厂出个专家解决下吧