多流场景下,会出现所有核(Core)都被一个流占用的情况,导致算子执行并行度降低,因此需要把核分给不同的流使用,从而保证算子并行执行收益。 GE图模式提供了两种限核方法,即算子级核数和全局核数(session)配置,其中算子级优先级高于全局核数的配置。请按实际情况配置最大AI Core数和Vector Core数。 - 说明1:运行过程中实际使用的核数可能少于配置的最大核数。 - 说明2:配置的最大核数不能超过AI处理器本身允许的最大AI Core数与最大Vector Core数。 更多关于AI Core和Vector Core的介绍请参考AI Core/Cube Core/Vector Co