---
title: 参数列表
description: "| 成员名称 | 类型 | 默认值 | 描述 |"
url: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0289.html
sourcePath: /source/zh/canncommercial/900/API/ascendtb/ascendtb_01_0289.html
indexId: c8666cea1529e2cf798ad6a0f36a6e67f348dd85c92611efc6ab1c4241b65b4564
---
# 参数列表

| 成员名称 | 类型 | 默认值 | 描述 |
| --- | --- | --- | --- |
| topkToppSamplingType | TopkToppSamplingType | SINGLE\_TOPK\_SAMPLING | 取样处理类型。 SAMPLING\_UNDEFINED：未定义，不作为取样处理类型。 SINGLE\_TOPK\_SAMPLING：非batch级别随机种子、top\-k。BATCH\_TOPK\_MULTINOMIAL\_SAMPLING：batch级别随机种子、top\-k的multinomial取样。 BATCH\_TOPK\_EXPONENTIAL\_SAMPLING：batch级别随机种子，top\-k的exponential取样。 BATCH\_TOPK\_MULTINOMIAL\_LOGPROBS\_SAMPLING：batch级别随机种子、top\-k的multinomial取样，输出增加logProbs。仅支持 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 。 BATCH\_TOPK\_EXPONENTIAL\_LOGPROBS\_SAMPLING：batch级别随机种子，top\-k的exponential取样，输出增加logProbs。仅支持 Atlas A2 训练系列产品 / Atlas A2 推理系列产品 。 SAMPLING\_MAX：枚举最大值，不作为取样处理类型。 |
| randSeed | uint32\_t | 0 | top\-p阶段随机抽样使用的随机数种子，默认值为0。当topktoppSamplingtype = SINGLE\_TOPK\_SAMPLING时使用。 |
| topk | uint32\_t | 100 | top\-k阶段保留的词的个数，需要小于词表的词数，默认值为100。topk必须大于0且小于或等于输入probs最后一维的大小。当topktoppSamplingtype = SINGLE\_TOPK\_SAMPLING时使用。 |
| randSeeds | std::vector<uint32\_t> | \- | 每个batch下top\-p阶段随机抽样使用的随机数种子。维度与batch大小一致。当topktoppSamplingtype = BATCH\_TOPK\_MULTINOMIAL\_SAMPLING时使用。 |
| logProbsSize | int32\_t | 0 | 为scalar的int型变量。取值范围是(0, 16384]，在枚举值为BATCH\_TOPK\_EXPONENTIAL\_LOGPROBS\_SAMPLING，BATCH\_TOPK\_MULTINOMIAL\_LOGPROBS\_SAMPLING时生效。 |
| rsv[12] | uint8\_t | {0} | 预留参数。 |