昇腾社区首页
中文
注册
开发者
下载

--deterministic_level

产品支持情况

产品

是否支持

Atlas A3 训练系列产品/Atlas A3 推理系列产品

Atlas A2 训练系列产品/Atlas A2 推理系列产品

Atlas 200I/500 A2 推理产品

x

Atlas 推理系列产品

Atlas 训练系列产品

功能说明

该参数为调试参数,当前不支持应用于商用产品中,后续版本会作为正式特性更新发布。该参数仅适用8.5.1及后续版本。

确定性计算级别。

默认情况下,确定性级别为0,即不开启确定性计算,是否开启确定性计算的选项--deterministic也需要是0。当需要使能确定性计算时,确定性级别需要设置为1,同时确定性计算选项--deterministic也需设置为1。当开启强一致性计算时,级别需要设置为2,同时确定性计算选项--deterministic也需设置为1。

当开启强一致性计算功能时(--deterministic_level=2),计算结果是确定的,多次执行将产生相同的输出。此外,计算结果与数据的位置无关。例如,在进行矩阵乘时,不同行的累加顺序可能不同,这可能会导致相同数据在不同行的计算结果出现细微差异。但在启用强一致性计算的情况下,只要输入相同,即使在不同的行中,计算结果都将保持一致。

默认情况下,强一致性计算功能不会启用。在这种默认模式下,相同数据出现在不同行时,可能会产生计算结果上的不一致。

出于性能考虑,通常建议不开启强一致性计算,因为它会降低算子的计算速度,影响整体效率。只有在以下情形下,才建议启用该功能:需要严格保证相同数据在不同位置上的结果一致性,或者正在对模型进行精度调整和调试,以优化整体表现。

关联参数

需要与--deterministic参数配合使用。

参数取值

  • 0:(默认值)不开启确定性计算。
  • 1:开启确定性计算。
  • 2:开启强一致性计算。

推荐配置及收益

无。

示例

--deterministic=0  --deterministic_level=0

依赖约束