设置请求decoder集群ID。
decoder_cluster_id(decoder_cluster_id)
参数名称
数据类型
取值说明
decoder_cluster_id
int
请求decoder集群ID。
1 2
llm_req = LLMReq() llm_req.decoder_cluster_id = 1
无