使用mindie-service进行流式推理时,推理结果出现乱码,模型为qwen2-vl-7b-instruct?
收藏回复举报
使用mindie-service进行流式推理时,推理结果出现乱码,模型为qwen2-vl-7b-instruct?
t('forum.solved') 已解决
发表于2025-02-18 13:47:36
0 查看

在使用非流式进行请求时,是正常的,但是改成非流式的时候在返回结果中就会出现乱码,无报错。

mindie:1.0.0-800I-A2-py311-openeuler24.03-lts

cke_3187.png

我要发帖子