模型描述信息定义。
struct ModelDesc { std::vector<TensorDesc> inputTensors; std::vector<TensorDesc> outputTensors; std::vector<size_t> batchSizes; bool dynamicBatch; };
参数名 |
输入/输出 |
说明 |
---|---|---|
inputTensors |
输出 |
输入张量描述。 |
outputTensors |
输出 |
输出张量描述。 |
batchSizes |
输出 |
batch大小。 |
dynamicBatch |
输出 |
是否为动态Batch。 |