MultinomialOperation
功能
采样功能。对最后一个轴进行采样，随机抽取numSamples个值，输出下标。
约束
用户需确保对最后一个轴进行归一化操作。
定义
struct MultinomialParam {
uint32_t numSamples = 1;
uint32_t randSeed = 0;
};
成员
成员名称 |
描述 |
|---|---|
numSamples |
随机采样数。 numSamples要小于等于q对应的维度大小，最大为64。 |
randSeed |
随机数种子。 |
输入
参数 |
维度 |
数据类型 |
格式 |
|---|---|---|---|
q |
[batch, vocSize] |
float16 |
ND |
输出
参数 |
维度 |
数据类型 |
格式 |
描述 |
|---|---|---|---|---|
output |
[batch, numSamples] |
int32 |
ND |
采数数据下标。 |