在精度调优前,首先需要确保模型迁移成功且在NPU上功能调通。如果涉及分布式训练,确保正确使能。
特别需要注意的是,在迁移过程中,需要确保正确使能混合精度训练。
混合精度在NPU上使能可以使用三种主要的方法,以达到性能、精度的最优权衡:
针对Atlas 训练系列产品,默认配置项为“allow_fp32_to_fp16”。
针对Atlas A2 训练系列产品,默认配置项为“must_keep_origin_dtype”。
针对Atlas 训练系列产品,默认配置项为“allow_fp32_to_fp16”。
针对Atlas A2 训练系列产品,默认配置项为“must_keep_origin_dtype”。
1 2 3 | import npu_device as npu npu.global_options().precision_mode = 'allow_mix_precision' npu.open().as_default() |
为尽可能减少重复改图带来不期望的问题,以上方法需要确保仅使能一种。