昇腾社区首页
中文
注册

函数:set_max_op_queue_num

产品支持情况

产品

是否支持

Atlas A3 训练系列产品 / Atlas A3 推理系列产品

Atlas A2 训练系列产品 / Atlas 800I A2 推理产品 /A200I A2 Box 异构组件

Atlas 训练系列产品

Atlas 推理系列产品

Atlas 200I/500 A2 推理产品

Atlas 200/300/500 推理产品

功能说明

通过单算子模型方式执行单个算子时,配置算子缓存信息老化信息,以达到节约内存和平衡调用性能的目的。

关于单算子模型的介绍请参见接口调用流程

函数原型

  • C函数原型
    1
    aclError aclopSetMaxOpQueueNum(uint64_t maxOpNum)
    
  • python函数
    1
    ret = acl.op.set_max_op_queue_num(max_op_num)
    

参数说明

参数名

说明

max_op_num

int,“算子类型-单算子模型”映射队列的最大长度。

如果长度达到最大,则会先删除长期未使用的映射信息以及缓存中的单算子模型,再加载最新的映射信息以及对应的单算子模型。

通过单算子模型方式执行单个算子时(aclopUpdateParams接口执行单算子除外),如果不调用本接口配置映射队列的最大长度,则默认最大长度为20000

aclopUpdateParams接口执行单算子时,如果不调用本接口配置映射队列的最大长度,则表示无需老化算子缓存信息。

返回值说明

返回值

说明

ret

int,错误码,返回0表示成功,返回其它值表示失败。