数据缓存优化开关。
当--buffer_optimize参数值设置为l1_optimize,则不能与--virtual_type参数同时使用,会出现报错,表示虚拟化场景不做l1融合,防止算子过大导致调度异常。
参数值:
建议打开数据缓存优化功能:开启数据缓存优化可提高计算效率、提升性能,但由于部分算子在实现上可能存在未考虑的场景,导致影响精度,因此在出现精度问题时可以尝试关闭数据缓存优化。如果关闭数据缓存优化功能后,精度达标,则需要识别出问题算子,反馈给华为工程师进一步分析、解决算子问题,解决算子问题后,建议仍旧保持开启数据缓存优化功能。
--buffer_optimize=l2_optimize
Atlas 200/300/500 推理产品
Atlas 推理系列产品(Ascend 310P处理器)
Atlas 训练系列产品
Atlas 200/500 A2推理产品
Atlas A2训练系列产品
无。