文档
注册
评分
提单
论坛
小AI

SetWorkspace

功能说明

异步场景时,需要使用一块临时空间来缓存Iterate计算结果,调用GetTensorC时会在该临时空间中获取C的矩阵分片。

函数原型

建议用户使用GlobalTensor类型传入:

1
template <class T> __aicore__ inline void SetWorkspace(GlobalTensor<T>& addr)
1
template <class T> __aicore__ inline void SetWorkspace(__gm__ const T* addr, int size)

参数说明

参数名

输入/输出

描述

addr

输入

用户传入的GM上的workspace空间,GlobalTensor类型。

addr

输入

用户传入的GM上的workspace空间,GM地址类型。

size

输入

传入GM地址时,需要配合传入元素个数。

返回值

支持的型号

Atlas A2训练系列产品/Atlas 800I A2推理产品

注意事项

调用示例

REGIST_MATMUL_OBJ(&pipe, GetSysWorkSpacePtr(), mm, &tiling);
mm.SetWorkspace(workspaceGM);    //设置异步时使用的临时空间
mm.SetTensorA(gm_a);
mm.SetTensorB(gm_b);
mm.SetBias(gm_bias);
mm.IterateAll(gm_c);
搜索结果
找到“0”个结果

当前产品无相关内容

未找到相关内容,请尝试其他搜索词