用最新的mindie镜像部署deepseekr1 w8a8服务推理返回乱码
收藏回复举报
用最新的mindie镜像部署deepseekr1 w8a8服务推理返回乱码
t('forum.solved') 已解决
新人帖
发表于2025-05-29 21:50:57
0 查看

利用mindie老版本:2.0.T3.1-800I-A2-py311-openeuler24.03-lts可以正常返回 但是速度很慢

利用mindie新版本:2.0.RC2-800I-A2-py311-openeuler24.03-lts或2.0.RC1-800I-A2-py311-openeuler24.03-lts都是推理很快 但是返回乱码
请问下这个怎么操作呀?

我要发帖子