对于进行ATC转换后的离线模型,由于CANN软件版本迭代、模型版本迭代或模型进行优化,需要判断迭代、优化后的模型在昇腾AI处理器上运行是否存在精度下降问题。分为非量化 vs 非量化和量化 vs 量化,输入数据准备如下。
文件 |
说明 |
获取方式 |
---|---|---|
非量化离线模型在昇腾AI处理器上运行生成的dump数据文件(版本迭代前) |
标杆数据 |
|
非量化离线模型在昇腾AI处理器上运行生成的dump数据文件(版本迭代后) |
待比对数据 |
文件 |
说明 |
获取方式 |
---|---|---|
量化离线模型在昇腾AI处理器上运行生成的dump数据文件(版本迭代前) |
标杆数据 |
|
量化离线模型在昇腾AI处理器上运行生成的dump数据文件(版本迭代后) |
待比对数据 |
一般情况下转换离线模型是默认开启算子融合功能的。为了排查融合后的算子产生的精度问题,可以先dump开融合的数据文件,再关闭算子融合功能进行模型转换,dump关融合的数据文件,最后将开融合和关融合的dump数据文件进行比对。
改场景分为非量化 vs 非量化和量化 vs 量化,输入数据准备如下。
文件 |
说明 |
获取方式 |
---|---|---|
非量化离线模型文件(*.om)(关闭算子融合) 非量化离线模型文件(*.om)(开启算子融合) |
模型文件 |
|
非量化离线模型在昇腾AI处理器上运行生成的dump数据文件(关闭算子融合) |
标杆数据 |
|
非量化离线模型在昇腾AI处理器上运行生成的dump数据文件(开启算子融合) |
待比对数据 |
文件 |
说明 |
获取方式 |
---|---|---|
量化离线模型文件(*.om)(关闭算子融合) 量化离线模型文件(*.om)(开启算子融合) |
模型文件 |
|
量化离线模型(关闭算子融合)在昇腾AI处理器上运行生成的dump数据文件 |
标杆数据 |
|
量化离线模型(开启算子融合)在昇腾AI处理器上运行生成的dump数据文件 |
待比对数据 |