LinearOperation

功能

Linear计算功能。

图1 LinearOperation

约束

输入x / weight矩阵维度，通过transposeA / transposeB配置要满足矩阵乘的维度关系。

定义

struct LinearParam {
    bool transposeA = false;
    bool transposeB = false;
    bool hasBias = true; 
};

成员

成员名称	描述
transposeA	是否转置A矩阵，默认不转置。当输入x的维度为3时，transposeA必须为false。
transposeB	是否不转置B矩阵，默认转置。
hasBias	是否叠加偏置。

成员名称

描述

transposeA

是否转置A矩阵，默认不转置。

当输入x的维度为3时，transposeA必须为false。

transposeB

是否不转置B矩阵，默认转置。

hasBias

是否叠加偏置。

输入

参数	维度	数据类型	格式	描述
x	当y为ND或NZ格式时，支持以下维度输入： x: [batch, m, k] weight: [k, n] x: [m,k] weight: [k, n] 当y为NZ格式时，额外支持以下维度输入： x: [m, k] weight: [1, n/16, k, 16] x: [batch, m, k] weight: [1, n/16, k, 16]	float16	ND	-
weight	float16	ND/NZ	weight为NZ时，倒数第二维为16整数倍。当weight为二维输入时，最后一维大小为16整数倍。当weight为四维输入时，最后一维大小为16。
bias	[1, n] / [n]	float16	ND	hasBias = true时才输入。

参数

维度

数据类型

格式

描述

当y为ND或NZ格式时，支持以下维度输入：

x: [batch, m, k]
weight: [k, n]
x: [m,k]
weight: [k, n]

当y为NZ格式时，额外支持以下维度输入：

x: [m, k]
weight: [1, n/16, k, 16]
x: [batch, m, k]
weight: [1, n/16, k, 16]

float16

weight

float16

ND/NZ

weight为NZ时，倒数第二维为16整数倍。

当weight为二维输入时，最后一维大小为16整数倍。
当weight为四维输入时，最后一维大小为16。

bias

[1, n] / [n]

float16

hasBias = true时才输入。

输出

参数	维度	数据类型	格式
output	根据以上输入维度，输出维度为： output: [batch, m, n] output: [m ,n] 当y为NZ格式时，对应以下维度输出： output: [m, n] output: [batch, m, n]	float16	ND

参数

维度

数据类型

格式

output

根据以上输入维度，输出维度为：

output: [batch, m, n]
output: [m ,n]

当y为NZ格式时，对应以下维度输出：

output: [m, n]
output: [batch, m, n]

float16

父主题： atb/infer_op_params.h