TensorFlow框架使能图模式
TensorFlow 1.15网络为图模式执行方式,支持通过TF Adapter接入GE图引擎,并在昇腾硬件加速执行。
TensorFlow 2.6.5网络的默认执行方式为Eager模式(即单算子模式),即每个计算操作下发后立即执行并返回。TensorFlow 2.6.5提供了tf.function装饰器,用于将python函数中调用的TF2运算封装成graph执行,获取性能收益。当前针对TensorFlow 2.6.5,昇腾平台仅支持tf.function修饰的函数算子在昇腾硬件加速执行,即仅支持图模式执行。
TensorFlow网络在昇腾平台上基于图模式执行的软件架构如下图所示:
TensorFlow框架前端会通过TF Adapter将前端TensorFlow模型转换为GE图,通过GE进行计算图的编译优化等操作,并下发到昇腾硬件执行。
针对TensorFlow 1.15,将原始TensorFlow网络迁移到昇腾平台执行的详细使用方法可参见《TensorFlow 1.15模型迁移指南》。
针对TensorFlow 2.6.5,将原始TensorFlow网络迁移到昇腾平台执行的详细使用方法可参见《TensorFlow 2.6.5模型迁移指南》。