Release接口

接口功能

释放输入张量对象内存。

接口格式

void Release()

接口参数

无。

使用样例

std::string name = "INPUT_IDS";
mindie_llm::InferDataType dataType = mindie_llm::InferDataType::TYPE_INT64;
std::vector<int64_t> dataShape = {1, 2};
auto inputsTensor = std::make_shared<mindie_llm::InferTensor>(name, dataType, dataShape);
inputsTensor->Release();

返回值

无。