--deterministic_level
产品支持情况
产品 |
是否支持 |
|---|---|
√ |
|
√ |
|
x |
|
√ |
|
√ |
功能说明
该参数为调试参数,当前不支持应用于商用产品中,后续版本会作为正式特性更新发布。该参数仅适用8.5.1及后续版本。
确定性计算级别。
默认情况下,确定性级别为0,即不开启确定性计算,是否开启确定性计算的选项--deterministic也需要是0。当需要使能确定性计算时,确定性级别需要设置为1,同时确定性计算选项--deterministic也需设置为1。当开启强一致性计算时,级别需要设置为2,同时确定性计算选项--deterministic也需设置为1。
当开启强一致性计算功能时(--deterministic_level=2),计算结果是确定的,多次执行将产生相同的输出。此外,计算结果与数据的位置无关。例如,在进行矩阵乘时,不同行的累加顺序可能不同,这可能会导致相同数据在不同行的计算结果出现细微差异。但在启用强一致性计算的情况下,只要输入相同,即使在不同的行中,计算结果都将保持一致。
默认情况下,强一致性计算功能不会启用。在这种默认模式下,相同数据出现在不同行时,可能会产生计算结果上的不一致。
出于性能考虑,通常建议不开启强一致性计算,因为它会降低算子的计算速度,影响整体效率。只有在以下情形下,才建议启用该功能:需要严格保证相同数据在不同位置上的结果一致性,或者正在对模型进行精度调整和调试,以优化整体表现。
关联参数
需要与--deterministic参数配合使用。
参数取值
- 0:(默认值)不开启确定性计算。
- 1:开启确定性计算。
- 2:开启强一致性计算。
推荐配置及收益
无。
示例
--deterministic=0 --deterministic_level=0
依赖约束
无
父主题: 调试选项