---
title: batch级别随机种子、topk的logprobs multinomial取样
description: "对于词表概率的每一个batch使用不同的topk进行截取，再对截取后的词表概率的每个batch使用不同的随机种子进行topp的multinomial取样。"
url: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0296.html
sourcePath: /source/zh/canncommercial/900/API/ascendtb/ascendtb_01_0296.html
indexId: f64f5cdded575fa90e8e0f9d3c553b78306f66e69eedda43e4f0862e1c819b9b64
---
# batch级别随机种子、topk的logprobs multinomial取样

对于词表概率的每一个batch使用不同的topk进行截取，再对截取后的词表概率的每个batch使用不同的随机种子进行topp的multinomial取样。

#### 使用的参数

topkToppSamplingType = BATCH_TOPK_MULTINOMIAL_LOGPROBS_SAMPLING、logProbsSize


#### 流程图

图1 batch级别随机种子topk的 logprobs multinomial取样流程图