Allocate接口

接口功能

为输入张量对象分配内存空间，用于接收输入数据。

接口格式

bool Allocate(size_t size)

接口参数

参数	是否必选	说明	取值要求
size	是	合法的内存空间大小。	size_t类型。

使用样例

构造一个名为"INPUT_IDS"，数据类型为INT64，数据维度为{1，2}的Tensor对象，为该对象分配内存空间。

std::string name = "INPUT_IDS";
mindie_llm::InferDataType dataType= mindie_llm::InferDataType::TYPE_INT64;
int64_t dataSize = 2;
std::vector<int64_t> dataShape = {1, dataSize};
auto inputsTensor = std::make_shared<mindie_llm::InferTensor>(name, dataType, dataShape);
size_t bufferSize = dataSize * sizeof(int64_t);
inputsTensor->Allocate(bufferSize);

返回值

张量对象内存空间分配是否成功，返回类型为bool类型。

父主题： InferTensor