类transformer类模型的性能下降
2023/06/06
256
问题信息
| 问题来源 | 产品大类 | 产品子类 | 关键字 |
|---|---|---|---|
| 官方 | 模型训练 | PyTorch | -- |
问题现象描述
使用PyTorch框架训练时，类transformer类模型出现性能下降问题。
解决措施
修改模型训练脚本，在import torch_npu后添加以下代码。torch_npu.npu.set_option(option)的详细使用，请参见《PyTorch 训练模型迁移调优指南》中的“设置算子编译选项”章节。
def main(config):
option = {}
option["MM_BMM_ND_ENABLE"] = "disable"
torch_npu.npu.set_option(option)