GetTensorByName接口

接口功能

根据Name获取Tensor。

接口格式

Status GetTensorByName(const std::string& tensorName, TensorPtr &tensor)

接口参数

参数	是否必选	说明	取值要求
tensorName	是	tensor名字。	合法的string类型。
tensor	是	tensor内容。	合法的InferTensor类型，请参考InferTensor。

使用样例

构造一个请求对象，从请求中获取名字为“INPUT_IDS”的Tensor对象。

mindie_llm::InferRequestId runtimeReqId(0);
std::shared_ptr<mindie_llm::InferRequest> runtimeRequest(runtimeReqId);
std::string name = "INPUT_IDS";
mindie_llm::InferDataType dataType = mindie_llm::InferDataType::TYPE_INT64;
std::vector<int64_t> dataShape = {1, 2};
auto inputsTensor = std::make_shared<mindie_llm::InferTensor>(name, dataType, dataShape);
runtimeRequest->AddTensor(name, inputsTensor);
TensorPtr tensor = std::make_shared<mindie_llm::InferTensor>();
Status ret = request->GetTensorByName("INPUT_IDS", tensor);

返回值

Status对象。

父主题： InferRequest