概述

精度优化

提升模型的准确性与稳定性。

在模型调试中，大多数精度问题是由算子精度问题造成的。导致算子精度异常的主要原因包括精度溢出、算子实现存在差异、融合规则不合理、硬件差异等，需结合具体现象进行分析并解决。

性能优化

提升计算效率并实现资源的最佳适配。

在单机推理场景中，性能瓶颈主要出现在调度与计算两个方面，可借助msprof工具和MindStudio Insight可视化工具快速定界问题类型，深入分析具体数据，并通过调整模型实现或优化系统调度策略，提升推理性能。