文档
注册
评分
提单
论坛
小AI

set_split_strategy_by_idx

函数原型

def set_split_strategy_by_idx(idxList, group="hccl_world_group")

功能说明

基于梯度的索引id,在集合通信group内设置反向梯度切分策略,实现allreduce的融合,用于进行集合通信的性能调优。

参数说明

参数名

输入/输出

描述

idxList

输入

list类型。

梯度的索引id列表。

  • 梯度的索引id列表需为非负,升序序列。
  • 梯度的索引id必须基于模型的总梯度参数个数去设置。索引id从0开始,最大值可通过以下方法获得:
    • 不调用梯度切分接口设置梯度切分策略进行训练,此时脚本会使用set_split_strategy_by_size中的默认梯度切分方式进行训练。
    • 训练结束后,在INFO级别的host训练日志中搜索"segment result"关键字,可以得到梯度切分的分段的情况如: segment index list: [0,107] [108,159]。此分段序列中最大的数字(例如159)即总梯度参数索引最大的值。
      说明:

      完整的训练过程可能出现日志覆盖情况,此时用户可以修改“/var/log/npu/conf/slog/slog.conf”中的配置项LogAgentMaxFileNum,提高Host侧保存日志文件的数量。或可以只进行一次迭代训练。

  • 梯度的切分最多支持8段。
  • 比如模型总共有160个参数会产生梯度,需要切分[0,20]、[21,100]和[101,159]三段,则可以设置为idxList=[20,100,159]。

group

输入

String类型。

group名称,可以为"hccl_world_group"或自定义group,默认为"hccl_world_group"。

返回值

无。

约束说明

  • 调用该接口的rank必须在当前接口入参group定义的范围内,不在此范围内的rank调用该接口会失败。
  • 若用户不调用梯度切分接口设置切分策略,则会按默认反向梯度切分策略切分。

    默认切分策略:按梯度数据量切分为2段,第一段数据量为96.54%,第二段数据量为3.46%(部分情况可能出现为一段情况)。

支持的型号

Atlas 训练系列产品

Atlas 300I Duo 推理卡

Atlas A2 训练系列产品

调用示例

1
2
from npu_bridge.npu_init import *
set_split_strategy_by_idx([20, 100, 159], "group")
搜索结果
找到“0”个结果

当前产品无相关内容

未找到相关内容,请尝试其他搜索词