Status AddOriginalInput(const std::string &name, LLM_ENGINE_DataType datatype, const int64_t *shape, uint64_t dimCount, Input **input)

接口功能

向推理请求中添加指定名称的原始输入张量。

接口格式

Status AddOriginalInput(const std::string &name, LLM_ENGINE_DataType datatype, const int64_t *shape, uint64_t dimCount, Input **input);

接口参数

参数

是否必选

说明

取值要求

name

必选

输入张量的名称。

由大写字母和下划线组成,且不以下划线作为开头和结尾。

datatype

必选

输入张量中保存的数据类型。

合法的数据类型。

shape

必选

输入张量的维度。

非空指针。

dimCount

必选

输入张量的dim。

uint64_类型,小于或等于10000。

input

必选

指针的指针,用于在函数外访问到输入张量对象。

合法的指针的指针。

使用样例

返回值