compile

函数功能

将原始TorchScript模型进行编译优化生成可在昇腾处理上加速推理的TorchScript模型。

函数原型

torch::jit::Module compile(const torch::jit::Module& module, const CompileSpec& info);

约束说明

compile接口由于存在参数校验,在输入非法数据时,可能会抛出异常。故用户必须在try/catch语句块内进行调用以及异常处理,防止在使用的过程中出现异常抛出导致程序退出的情况。

参数说明

参数名

输入/输出

说明

module

输入

原始TorchScript模型。

info

输入

模型编译优化配置信息,详情请参考CompileSpec

返回值说明

编译优化后的TorchScript模型。