华为计算微信公众号
昇腾AI开发者公众号
华为计算微博
华为计算今日头条
我使用的是mindie镜像是1.0.RC3-300I-Duo-arm64,模型是Qwen2.5-14B-Instruct,其中只是修改了模型以及镜像的config.json文件,模型里面是float16,然后启动了mindie服务成功的。但是curl请求时返回的tool_calls值为null.
我要发帖子
我使用的是mindie镜像是1.0.RC3-300I-Duo-arm64,模型是Qwen2.5-14B-Instruct,其中只是修改了模型以及镜像的config.json文件,模型里面是float16,然后启动了mindie服务成功的。但是curl请求时返回的tool_calls值为null.