函数功能

矩阵乘加指令抽象。

函数原型

class Mmad(x, y, b, is_inited=False)

参数说明

参数名	数据类型	说明
x	tensor变量	左矩阵，在“L0A”空间。支持FP16
y	tensor变量	右矩阵，在“L0B”空间。支持FP16
b	tensor变量	偏置项，可以在“L0C”空间,或Bias Table空间。支持FP32
is_inited	bool	当输入是在“L0C”空间时，需要加is_inited=True，因为不存在通路将数据从GM直接搬运到L0C。

约束说明

偏置项在Bias Table空间时，其tensor的数据格式需是ND，shape是[n, ]。

使用示例

in_x = Tensor("GM", "FP16", [32, 48], format="ND")
in_y = Tensor("GM", "FP16", [48, 16], format="ND")
in_z = Tensor("GM", "FP32", [32, 16], format="NC1HWC0")
out_z = mmad(in_x, in_y, in_z)