开发者
下载
[object Object][object Object]
  • 头文件:#include <ge/ge_api.h>
  • 库文件:libge_runner.so
[object Object]

该接口已废弃,请勿使用。

大模型分布式编译切分场景下使用:Graph太大场景下,需要调用该接口,进行切分图,并将切分后的图保存为pb文件。

切分图接口,对Session内的图按照AddGraph的顺序进行切分,切分后的图保存为pb文件

切分方式由中的ge.graphParallelOptionPath参数配置,若未开启并行切分功能,则接口不会进行切分。

切分后的图,命名规则:

  • 若工作在SPMD模式,切分后的图的命名规则为:{原图名}_{ClusterId}_{ItemId}_{ChipId}_{VirtualStageId}_{原图GraphId},切分后的图的个数将为原图的个数*切分份数。
  • 若工作在非SPMD模式,切分后的图命名规则为:{原图名}_{原图GraphId},切分后的图的个数将等于原图个数。

切分图以后,原图将不在Session内存在,生成的新的切分后图的GraphId将使用其他ID替代原图的GraphId。

  • 该接口与接口区别:

    ShardGraphsToFile适用于大模型分布式编译切分场景,而SaveGraphsToPb适用于任何图。

  • 该接口与接口区别

    • ShardGraphsToFile可以完成搜索策略、图的切分,并输出切分后的图等文件,切分后的图也通过该接口落盘(file_path参数必须指定有效路径)。
    • 而ShardGraphs完成搜索策略、图的切分,并输出切分后的图等文件后,切分后的图保存在内存中,然后通过落盘
[object Object]
[object Object]
[object Object][object Object]undefined
[object Object][object Object]undefined
[object Object]

当前仅在并行切分模式开启时生效。

[object Object]
[object Object]