---
title: 在线推理简介
description: "在线推理是指在TensorFlow框架内使用已经训练好的pb模型实时进行推理，相比于离线推理场景，在线推理类业务时效性要求较高，常用于数据中心推理场景。"
url: https://www.hiascend.com/document/detail/zh/TensorFlowCommercial/latest/migration/tfmigr2/tfmigr2_000081.html
sourcePath: /source/zh/TensorFlowCommercial/900/migration/tfmigr2/tfmigr2_000081.html
indexId: c6196f9c8aa4a7e0d1ab2d7f75dd3fbaa89c9be4d02c824a2219f9c1ebb1c04173
---
# 在线推理简介

在线推理是指在TensorFlow框架内使用已经训练好的pb模型实时进行推理，相比于离线推理场景，在线推理类业务时效性要求较高，常用于数据中心推理场景。

开发者可参考本节方便地将原来基于TensorFlow框架做推理的应用迁移到昇腾平台。
