训练场景的调优分如下两种。
推荐先进行子图调优,再进行算子调优。原因是:先进行子图调优会生成图的切分方式,子图调优后算子已经被切分成最终的shape了,再进行算子调优,会基于这个最终shape去做算子调优。如果优先算子调优,这时调优的算子shape不是最终切分后的算子shape,不符合实际使用场景。
操作描述
参考章节
部署开发环境和运行环境
《CANN 软件安装指南》
安装配置AOE
环境准备
配置环境变量
子图/算子调优
执行训练脚本
梯度切分调优
修改训练脚本