GE动/静态图概念

GE提供了两种模型图调度的方式，Host调度和下沉调度，详细介绍参见《CANN 图模式开发指南》中“概念和原理介绍>模型下沉调度”。

• Host调度：Host CPU将模型中的每个算子依次进行InferShape、Tiling计算、下发到Device执行操作。
• 下沉调度：在加载阶段，模型中的算子以整图形式提前下发到Device上。执行时，只需在Host侧下发一个模型执行的Task即可触发Device上模型调度执行。在下沉调度模型中，算子可以在加载阶段完成Tiling计算或静态Kernel编译，因此在执行态时无需再次计算Tiling。相比于Host调度模式，下沉调度模式可大大降低Host侧调度开销，有效减少Host和Device之间的交互，同时也可以解决Host调度的Host Bound。

GE动/静态shape图与调度模式：

• 对于所有输入tensor shape不固定的图，称为动态shape图。动态Shape图在执行时才能确定Shape，完成Tiling计算，只能采用Host调度。
• 对于所有输入tensor shape固定的图，称为静态shape图。静态shape图中的算子一般都能采用下沉调度。
• 对于部分输入tensor shape不固定，部分输入tensor shape固定的图，整图归类为动态shape图。静态部分可以采用下沉调度，动态部分可以采用Host调度。

  特殊情况下，静态shape图中存在值依赖算子，该算子默认使用Host调度。因此，在静态shape图中，部分算子采用下沉调度（能下沉的部分称为静态子图，在GE build图中以PartitionedCall节点形式存在），部分算子采用Host调度。

通常，动态shape图也简称动态图，静态shape图也简称静态图。