昇腾社区首页
中文
注册

BatchMultiClassNMS

功能

计算输入Tensor boxes和scores的NMS,支持多个batch和class,抑制那些非极大值的元素,保留极大值元素。

输入

  • boxes:输入Tensor,其中shape为[batch,num_anchors,num_classes,4],batch表示图片的batch大小, num_anchors表示框数,num_classes表示检测类别。4 是指“x0”、“x1”、“y0”和“y1”。数据类型支持float16、float32。
  • scores:输入Tensor,表示框,其中shape为[batch, num_anchors, num_classes],数据类型支持float16、float32。
  • clip_window(可选):输入Tensor,表示窗口大小,其中shape为[batch, 4],数据类型支持float16、float32。
  • num_valid_boxes(可选):输入Tensor,表示每个批次的有效框编号,数据类型支持int32。

属性

  • score_threshold:数据类型为float,指定分数筛选器。
  • iou_threshold:数据类型为float,表示IOU重叠判断阈值。
  • max_size_per_class:数据类型为int,指定每个类的nms输出编号。
  • max_total_size:数据类型为int,指定每批的nms输出数。
  • change_coordinate_frame(可选):数据类型为bool,表示是否在裁剪后标准化坐标。
  • transpose_box(可选):数据类型为bool,表示是否在此操作之前插入转置必须为 “false”。

输出

  • nmsed_boxes:输出Tensor,指定每批的输出NMS框,数据类型支持float16、float32。
  • nmsed_scores:输出Tensor,指定每批的输出NMS分数,数据类型支持float16、float32。
  • nmsed_classes:输出Tensor,指定每个批次的输出NMS类,数据类型支持float16、float32。
  • nmsed_num:输出Tensor,指定nmsed_boxes的有效数量,数据类型支持int32。

约束与限制

无。

支持的ONNX版本

Opset v8/v9/v10/v11/v12/v13/v14/v15/v16