无法保证模型确定性输出
收藏回复举报
无法保证模型确定性输出
t('forum.solved') 已解决
发表于2025-09-08 16:40:49
0 查看
参考昇腾文档:https://www.hiascend.com/document/detail/zh/mindie/20RC2/mindiellm/llmdev/mindie_llm0413.html 

根据附件中的脚本文件,并修改发送请求的参数,仍无法保证输出一致性: 

'''

"temperature": 0.0,         

"top_p": 1.0, 

"top_k": 1, 

"do_sample": False, 

"n": 1, 

"stream": False, 

"seed": 2025 

'''

我要发帖子