在精度调优前,首先需要确保模型迁移成功且在NPU上功能调通。如果涉及分布式训练,确保正确使能。
特别需要注意的是,在迁移过程中,需要确保正确使能混合精度训练。
混合精度在NPU上使能可以使用三种主要的方法,以达到性能、精度的最优权衡。需要注意,为了尽可能减少重复改图带来不期望的问题,以下方法需要确保仅使能一种。
针对Atlas 训练系列产品,默认配置项为“allow_fp32_to_fp16”。
针对Atlas A2训练系列产品,默认配置项为“must_keep_origin_dtype”。
针对Atlas 训练系列产品,默认配置项为“allow_fp32_to_fp16”。
针对Atlas A2训练系列产品,默认配置项为“must_keep_origin_dtype”。
请参考混合精度训练修改训练脚本。