产品 |
是否支持 |
|---|---|
Ascend 950PR/Ascend 950DT |
√ |
√ |
|
√ |
|
√ |
|
√ |
|
x |
|
x |
设置矩阵乘的Bias。
1 | __aicore__ inline void SetBias(const GlobalTensor<BiasT>& biasGlobal) |
1 | __aicore__ inline void SetBias(const LocalTensor<BiasT>& inputBias) |
参数名 |
输入/输出 |
描述 |
|---|---|---|
biasGlobal |
输入 |
Bias矩阵。类型为GlobalTensor。 Ascend 950PR/Ascend 950DT,支持的数据类型为:half/bfloat16_t/float/int32_t,其中仅在A、B的数据类型为int8_t时,Bias的数据类型可以设置为int32_t A矩阵、B矩阵、Bias支持的数据类型组合可参考Matmul输入输出数据类型的组合说明;在MxMatmul场景,A矩阵、B矩阵、Bias支持的数据类型组合可参考MatmulTypeWithScale参数说明。 |
inputBias |
输入 |
Bias矩阵。类型为LocalTensor,支持的TPosition为TSCM/VECOUT。 Ascend 950PR/Ascend 950DT,支持的数据类型为:half/bfloat16_t/float/int32_t,其中仅在A、B的数据类型为int8_t时,Bias的数据类型可以设置为int32_t A矩阵、B矩阵、Bias支持的数据类型组合可参考Matmul输入输出数据类型的组合说明;在MxMatmul场景,A矩阵、B矩阵、Bias支持的数据类型组合可参考MatmulTypeWithScale参数说明 。 |
无
1 2 3 4 5 6 7 8 | REGIST_MATMUL_OBJ(&pipe, GetSysWorkSpacePtr(), mm, &tiling); mm.SetTensorA(gm_a); mm.SetTensorB(gm_b); if (tiling.isBias) { mm.SetBias(gmBias); // 设置Bias } mm.IterateAll(gm_c); mm.End(); |