请教下,部署deepseek-v3.1-w4a8模型开启functioncall功能后,如何启用logprobs
收藏回复举报
请教下,部署deepseek-v3.1-w4a8模型开启functioncall功能后,如何启用logprobs
t('forum.solved') 已解决
发表于2026-01-20 10:17:23
0 查看

如题,我现在部署deepseek-v3.1-w4a8模型,开启了functioncall能力,但是我调用开始logprobs就会报错,使用v1/chat/completions和v1/completions都会报错:

cke_1802.png

cke_2190.png

我要发帖子