执行多模态理解模型推理

多模态理解类模型执行推理的方式与大语言模型略有不同,在执行推理时您可参考模型仓中对应模型的README进行推理。模型的README路径为:

“${llm_path}/examples/models/{model}/README.md”

多模态理解模型推理使用分为ATB Models纯模型使用与MindIE Services服务化使用。

模型推理使用相关约束与限制与纯语言模型相同,请参考ATB Models使用