接口功能

根据Name获取Tensor。

C++函数原型

Status GetTensorByName(const std::string& tensorName, TensorPtr &tensor)

Python函数

get_tensor_by_name(tensor_name, tensor)

接口参数

参数	是否必选	说明	取值要求
tensor_name	是	tensor名字。	合法的string类型。
tensor	是	获取得到的tensor。	合法的InferTensor类型，请参考InferTensor。

使用样例

通过字符串name，从infer_request获取对应tensor。

name = "INPUT_IDS"
shape = np.array([1,1], dtype=np.int64)
runtime_tensor = llm_manager_python.InferTensor(name, shape, llm_manager_python.InferDataType.TYPE_INT64)
status = infer_request.get_tensor_by_name(name, runtime_tensor)

get_tensor_by_name接口

接口功能

C++函数原型

Python函数

接口参数

使用样例