华为计算微信公众号
昇腾AI开发者公众号
华为计算微博
华为计算今日头条
1.工具调用的支持
message里已经提到使用我告诉它的工具,但是没有把这些工具调用放到 "tool_calls"里。
2.消息的decode_time_arr
返回消息里的decode_time_arr是什么用?每次消息里都有很多。
3.API兼容问题
4.deepseek-r1-w8a8上下文长度限制
32k上下文不能满足需求,能否降低并发实现长上下文?
本帖最后由 匿名用户 于 2025/03/18 08:58:15 编辑
我要发帖子
1.工具调用的支持
message里已经提到使用我告诉它的工具,但是没有把这些工具调用放到 "tool_calls"里。
2.消息的decode_time_arr
返回消息里的decode_time_arr是什么用?每次消息里都有很多。
3.API兼容问题
4.deepseek-r1-w8a8上下文长度限制
32k上下文不能满足需求,能否降低并发实现长上下文?