张量分解
简介
张量分解通过分解卷积核的张量,将一个卷积转化成两个小卷积的堆叠来降低推理开销,如用户模型中存在大量卷积,且卷积核shape普遍大于(64, 64, 3, 3)时推荐使用张量分解。
分解流程
本节给出张量分解的接口调用流程和调用示例。
父主题:
AMCT工具(PyTorch)