采样功能。对最后一个轴进行采样,随机抽取numSamples个值,输出下标。
用户需确保对最后一个轴进行归一化操作。
struct MultinomialParam { uint32_t numSamples = 1; uint32_t randSeed = 0; };
成员名称 |
描述 |
---|---|
numSamples |
随机采样数。 numSamples要小于等于q对应的维度大小,最大为64。 |
randSeed |
随机数种子。 |
参数 |
维度 |
数据类型 |
格式 |
---|---|---|---|
q |
[batch, vocSize] |
float16 |
ND |
参数 |
维度 |
数据类型 |
格式 |
描述 |
---|---|---|---|---|
output |
[batch, numSamples] |
int32 |
ND |
采数数据下标。 |