SetSamplingParams接口
接口功能
设置后处理参数。
接口格式
void SetSamplingParams(SamplingParams samplingParams);
接口参数
参数 |
是否必选 |
说明 |
取值要求 |
|---|---|---|---|
samplingParams |
必选 |
后处理参数结构体。 |
合法的后处理对象。 |
使用样例
SamplingParams param; param.temperature = 1.0; param.topK = 1; request->SetSamplingParams(param);
返回值
无。
父主题： InferenceRequest