将原始TorchScript模型进行编译优化生成可在昇腾处理上加速推理的TorchScript模型。
torch::jit::Module compile(const torch::jit::Module& module, const CompileSpec& info);
compile接口由于存在参数校验,在输入非法数据时,可能会抛出异常。故用户必须在try/catch语句块内进行调用以及异常处理,防止在使用的过程中出现异常抛出导致程序退出的情况。
参数名 |
输入/输出 |
说明 |
---|---|---|
module |
输入 |
原始TorchScript模型。 |
info |
输入 |
模型编译优化配置信息,详情请参考CompileSpec。 |
编译优化后的TorchScript模型。