功能模块介绍
- 加密工具：通过推理服务开放的RESTful接口提供服务，默认启用证书双向认证，证书由集成推理服务的第三方平台提供，证书私钥的口令需要使用推理服务提供的加密工具进行加密，可支持证书导入。
- 推理配置文件生成模块：根据训练组件输出的参数文件和模型，动态生成MindX SDK创建Stream时所需的pipeline文件和后处理所需的cfg、label等文件。
- 推理模块：使用MindX SDK加载配置文件创建对应业务的Stream提供推理能力。
- 后处理模块：根据业务场景是器件错漏反、工业OCR、胶体检测、异物检测、标签检测以及相应参数配置，对推理结果做不同的后处理。
- 推理结果向第三方平台上报模块：支持将推理结果上传到指定地址或将推理时延上报到Prometheus。
- 自定义场景模块：用户可以根据实际需求拓展场景，包括自定义Pipeline流程编排、自定义后处理等。