QwQ-32B-w8a8服务化失败,LLMInferEngine failed to init LLMInferModels
收藏回复举报
QwQ-32B-w8a8服务化失败,LLMInferEngine failed to init LLMInferModels
发表于2025-03-13 16:13:11
0 查看

把w8a8的tokenizer.json替换为原32B中的。

本帖最后由 匿名用户2025/03/13 17:32:58 编辑

我要发帖子