多模型推理
多模型推理的基本流程与单模型类似,请参见模型推理基本场景。
多模型推理与单模型推理的不同点如下:
- 关于模型加载,如果涉及多个模型,需调用多次模型加载接口。模型加载请参见模型加载。
- 关于模型执行,如果涉及多个模型,需调用多次模型执行接口。模型执行请参见模型执行。
例如,调用aclmdlExecute接口实现同步模型推理。
父主题: 模型推理扩展场景
多模型推理的基本流程与单模型类似,请参见模型推理基本场景。
多模型推理与单模型推理的不同点如下:
例如,调用aclmdlExecute接口实现同步模型推理。