AMCT(Caffe)
- 量化
- 张量分解
张量分解通过分解卷积核的张量,将一个卷积转化成两个小卷积的堆叠来降低推理开销,如用户模型中存在大量卷积,且卷积核shape普遍大于(64, 64, 3, 3)时推荐使用张量分解。
- 扩展更多特性(模型适配)
如果用户有自己计算得到的量化因子以及Caffe原始模型,该模型无法直接使用ATC工具转成适配昇腾AI处理器的离线模型,需要借助该章节提供的功能,将其转成CANN量化模型格式,然后才能使用ATC工具,将CANN量化模型转成适配昇腾AI处理器的离线模型。
- 接口说明
- 参考信息