模型动态Shape输入推理
使用约束
设置Shape数据缓存,提升性能
动态Batch/动态分辨率/动态维度(设置多档维度值)
本节介绍动态Batch/动态分辨率/动态维度功能涉及的关键接口、接口调用流程及示例代码。
动态Shape输入(设置Shape范围)
本节介绍动态Shape输入场景下,如何设置Shape范围,介绍其关键接口、接口调用流程及示例代码。
父主题:
扩展更多特性