约束说明
- 本文以默认安装路径/home/HwHiAiUser/Ascend/ascend-toolkit/latest为例,介绍精度比对的操作方法,实际操作时请根据实际路径进行替换。本文中举例路径均需要确保安装用户具有读或读写权限。
- 精度比对工具推荐环境配置:CPU 8核 2.6Ghz,内存16GB,低于该配置可能会造成比对缓慢。
- 单算子网络不支持精度比对。
- Python版本支持情况请参见《CANN 软件安装指南》中的“安装开发环境>安装依赖>依赖列表”章节。
- 精度比对支持的dump数据的类型:
- FLOAT
- FLOAT16
- DT_INT8
- DT_UINT8
- DT_INT16
- DT_UINT16
- DT_INT32
- DT_INT64
- DT_UINT32
- DT_UINT64
- DT_BOOL
- DT_DOUBLE