问题现象描述

• 硬件配置：
  • Atlas800 9000 A2
  • mindformers套件
  • mindspore2.1
• 问题现象：

  在Atlas800 9000 A2训练服务器上，利用Mindformers套件做Llama13B的推理时，推理结果不正确；

  

原因分析

推理精度不正确。

解决措施

在推理启动脚本中set_context时，设置precision_mode，具体描述参考mindspore官网链接

https://www.mindspore.cn/docs/zh-CN/r2.1/api_python/mindspore/mindspore.set_context.html?highlight=precision_mode。