DeQue

功能说明

将Tensor从队列中取出，用于后续处理。

函数原型

template <typename T> __aicore__ inline LocalTensor<T> DeQue();
// 通过TQueBind绑定VECIN和VECOUT可实现VECIN和VECOUT内存复用，如下接口用于存在Vector计算的场景下实现复用，在出队时需要指定源和目的位置；不存在Vector计算的场景下可直接调用LocalTensor<T> DeQue()出队接口
template <TPosition srcUserPos, TPosition dstUserPos, typename T> __aicore__ inline LocalTensor<T> DeQue();

参数说明

无。

支持的型号

Atlas 训练系列产品

Atlas推理系列产品AI Core

Atlas推理系列产品Vector Core

Atlas A2训练系列产品/Atlas 800I A2推理产品

Atlas 200I/500 A2推理产品

注意事项

无

返回值

无

调用示例

// 接口: DeQue Tensor
TPipe pipe;
TQue<TPosition::VECOUT, 4> que;
int num = 4;
int len = 1024;
pipe.InitBuffer(que, num, len);
LocalTensor<half> tensor1 = que.AllocTensor<half>();
que.EnQue(tensor1);
LocalTensor<half> tensor2 = que.DeQue<half>(); // 将tensor从VECOUT的Queue中搬出

// 接口: DeQue Tensor，指定特定的Src/Dst position
TPipe pipe;
TQueBind<QuePosition::VECIN, QuePosition::VECOUT, 1> que;
int num = 4;
int len = 1024;
pipe.InitBuffer(que, num, len);
LocalTensor<half> tensor1 = que.AllocTensor<half>();
que.EnQue<QuePosition::GM, QuePosition::VECIN, half>(tensor1);
// 将tensor从VECIN的Queue中搬出
LocalTensor<half> tensor2 = que.DeQue<QuePosition::GM, QuePosition::VECIN, half>();