开发者
下载
[object Object][object Object]

数据缓存优化开关。此参数实际对应的options参数为[object Object]

参数取值:

  • l1_optimize:表示开启l1优化。当前版本该参数无效,等同于off_optimize。
  • l2_optimize:(默认值)表示开启l2优化。
  • off_optimize:表示关闭数据缓存优化。

其中,l1表示L1 Buffer,通用内部存储,是AI Core内比较大的一块数据中转区,可暂存AI Core中需要反复使用的一些数据从而减少从总线读写的次数;l2表示L2 Buffer,表示外部存储;AI Core需要把外部存储中的数据加载到内部存储中,才能完成相应的计算。

使用建议:

建议打开数据缓存优化功能:开启数据缓存优化可提高计算效率、提升性能,但由于部分算子在实现上可能存在未考虑的场景,导致影响精度,因此在出现精度问题时可以尝试关闭数据缓存优化。如果关闭数据缓存优化功能后,精度达标,则需要识别出问题算子,反馈给技术支持进一步分析、解决算子问题;解决算子问题后,建议仍旧保持开启数据缓存优化功能。

配置示例:

[object Object]

产品支持情况:

全量芯片支持。

[object Object]

此参数实际对应的options参数为[object Object]

融合开关配置文件路径以及文件名,路径和文件名:支持大小写字母(a-z,A-Z)、数字(0-9)、下划线(_)、中划线(-)、句点(.)、中文字符。

系统内置了一些图融合和UB融合规则,均为默认开启,可以根据需要关闭指定的融合规则,当前可以关闭的融合规则请参见《图融合和UB融合规则参考》,但是由于系统机制,其他融合规则无法关闭。

[object Object]

Ascend 950PR/Ascend 950DT不支持UB融合

[object Object]

配置示例:

配置文件样例_fusion_switch.cfg,_on表示开启,off表示关闭。

配置样例:

[object Object]
[object Object]

不支持UB融合时,上述配置文件可以删除UBFusion。

[object Object]

同时支持用户一键关闭融合规则:

配置文件样例:

[object Object]
[object Object]

不支持UB融合时,上述配置文件可以删除UBFusion。

[object Object]

需要注意的是:

  1. 关闭某些融合规则可能会导致功能问题,因此此处的一键式关闭仅关闭系统部分融合规则,而不是全部融合规则。

  2. 一键式关闭融合规则时,可以同时开启部分融合规则:

    配置文件样例:

    [object Object]
    [object Object]

    不支持UB融合时,上述配置文件可以删除UBFusion。

    [object Object]

产品支持情况:

全量芯片支持。