aclmdlGetDynamicBatch
产品支持情况
产品 |
是否支持 |
|---|---|
√ |
|
√ |
|
√ |
|
√ |
|
√ |
功能说明
根据模型描述信息获取模型支持的动态Batch信息。
函数原型
aclError aclmdlGetDynamicBatch(const aclmdlDesc *modelDesc, aclmdlBatch *batch)
参数说明
参数名 |
输入/输出 |
说明 |
|---|---|---|
modelDesc |
输入 |
aclmdlDesc类型的指针。 需提前调用aclmdlCreateDesc接口创建aclmdlDesc类型的数据。 |
batch |
输出 |
const int ACL_MAX_BATCH_NUM = 128;
typedef struct aclmdlBatch {
size_t batchCount; /**模型中支持的batch分档数 */
uint64_t batch[ACL_MAX_BATCH_NUM]; /**模型中支持的具体分档 */
} aclmdlBatch;
batchCount等于0时，表示不支持设置档位信息，以模型中的档位为准。 |
返回值说明
返回0表示成功，返回其他值表示失败，请参见aclError。
父主题： aclmdlDesc