Tensor
说明
加速库的Tensor定义,包含每个Tensor的描述符、NPU内存地址、CPU内存地址和内存大小等。
定义
struct Tensor { TensorDesc desc; void *deviceData = nullptr; void *hostData = nullptr; uint64_t dataSize = 0; };
成员
成员名称 |
描述 |
---|---|
desc |
Tensor描述信息。 |
deviceData |
TensorNPU内存地址。 |
hostData |
TensorCPU内存地址。 |
dataSize |
“deviceData”或“hostData”指向内容的内存大小。 |
父主题: atb/types.h