decoder_cluster_id

函数功能

设置请求decoder集群ID。

函数原型

decoder_cluster_id(decoder_cluster_id)

参数说明

调用示例

1
2

llm_req = LLMReq()
llm_req.decoder_cluster_id = 1

返回值

无

约束说明

无