华为计算微信公众号
昇腾AI开发者公众号
华为计算微博
华为计算今日头条
请问目前MindIE部署Qwen3服务化是否支持通过请求体中“enable_thinking”标签的方式,由客户端指定是否采用深度思考?
不是通过修改模型侧的配置使得服务化部署的大模型只能思考或只能不思考,而是由客户端选择是否思考;
也不是通过在提示词中添加/think 或 /no_think的这种还会在输出中出现空白<think>标签的方案。
我要发帖子
请问目前MindIE部署Qwen3服务化是否支持通过请求体中“enable_thinking”标签的方式,由客户端指定是否采用深度思考?
不是通过修改模型侧的配置使得服务化部署的大模型只能思考或只能不思考,而是由客户端选择是否思考;
也不是通过在提示词中添加/think 或 /no_think的这种还会在输出中出现空白<think>标签的方案。