函数：get_dynamic_batch

产品	是否支持
Atlas A3 训练系列产品/Atlas A3 推理系列产品	√
Atlas A2 训练系列产品/Atlas 800I A2 推理产品/A200I A2 Box 异构组件	√
Atlas 训练系列产品	√
Atlas 推理系列产品	√
Atlas 200I/500 A2 推理产品	√
Atlas 200/300/500 推理产品	√

根据模型描述信息获取模型支持的动态Batch信息。

C函数原型

aclError aclmdlGetDynamicBatch(const aclmdlDesc *modelDesc, aclmdlBatch *batch)

python函数

batch, ret = acl.mdl.get_dynamic_batch(model_desc)

参数名	说明
model_desc	int，aclmdlDesc类型数据的指针地址。需提前调用acl.mdl.create_desc接口创建aclmdlDesc类型的数据。

参数名

说明

model_desc

int，aclmdlDesc类型数据的指针地址。

需提前调用acl.mdl.create_desc接口创建aclmdlDesc类型的数据。

返回值	说明
batch	dict，获取的模型支持的动态Batch信息。模型中支持的最大batch数为128。 batch = { "batchCount": int，#模型中支持的batch分档数 "batch": [xx, xx,] # 模型中支持的具体分档 } “batchCount”等于0时，表示不支持设置档位信息，以模型中的档位为准。
ret	int，错误码。返回0表示成功。返回其它值表示失败。

返回值

说明

batch

dict，获取的模型支持的动态Batch信息。

模型中支持的最大batch数为128。

batch = {
    "batchCount": int，#模型中支持的batch分档数
    "batch": [xx, xx,]  # 模型中支持的具体分档
}

ret

int，错误码。

父主题： aclmdlDesc