模型后处理介绍

从当前版本不再演进,预计2024年退出,建议使用模型后处理(tensorinfer框架)

模型后处理为与模型一一对应的配套操作,在mxVision中其主要工作是用于对模型推理插件传入的推理结果张量进行处理,如在目标检测任务中,需要对目标框进行去重,排序,筛选等。最后将处理结果写入推理插件的元数据中。目前mxVision所支持的模型均已开发相应的后处理插件。如果现有后处理无法兼容用户模型,用户应自行开发后处理,步骤见本章后续介绍。

表1 已支持的模型及对应的后处理动态库

已支持模型名称

推理插件使用的后处理动态库

YOLOv3

libMpYOLOv3PostProcessor.so

YOLOv3-tiny

ResNet-50

libresnet50postprocessor.so

Faster Rcnn

libfasterrcnnpostprocessor.so

SSD-VGG16

libssdvggpostprocessor.so

SSD MobileNet v1 FPN

libssdmobilenetfpnpostprocessor.so

CRNN

libcrnnpostprocessor.so

后处理需要一个配置文件和一个标签文件。