MultinomialOperation

功能

采样功能。对最后一个轴进行采样,随机抽取numSamples个值,输出下标。

约束

用户需确保对最后一个轴进行归一化操作。

定义

struct MultinomialParam {
    uint32_t numSamples = 1;
    uint32_t randSeed = 0;
};

成员

成员名称

描述

numSamples

随机采样数。

numSamples要小于等于q对应的维度大小,最大为64。

randSeed

随机数种子。

输入

参数

维度

数据类型

格式

q

[batch, vocSize]

float16

ND

输出

参数

维度

数据类型

格式

描述

output

[batch, numSamples]

int32

ND

采数数据下标。