如何处理内存不足

graph_memory_max_size

网络静态内存和最大动态内存，可根据网络大小指定。单位：Byte，取值范围：[0, 256*1024*1024*1024]或[0, 274877906944]。当前受昇腾AI处理器硬件限制，graph_memory_max_size和variable_memory_max_size总和为31GB。如果不设置，默认为26GB。

配置示例：

• sess.run模式

  custom_op.parameter_map["graph_memory_max_size"].s = tf.compat.as_bytes(str(26*1024 * 1024 * 1024))

• Estimator模式

  config = NPURunConfig(graph_memory_max_size=str(26*1024 * 1024 * 1024))
  variable_memory_max_size

variable_memory_max_size

变量内存，可根据网络大小指定。单位：Byte，取值范围：[0，256*1024*1024*1024]或[0, 274877906944]。当前受昇腾AI处理器硬件限制，graph_memory_max_size和variable_memory_max_size总和为31GB。如果不设置，默认为5GB。

配置示例：

• sess.run模式

  custom_op.parameter_map["variable_memory_max_size"].s = tf.compat.as_bytes(str(5*1024 * 1024 * 1024))

• Estimator模式

  config = NPURunConfig(variable_memory_max_size=str(5*1024 * 1024 * 1024))