昇腾社区首页
中文
注册
开发者
下载

chat

功能描述

与VLM服务进行交互,获取VLM模型的推理结果。

函数原型

def chat(image_url, prompt, sys_messages, role, llm_config)

输入参数说明

参数名

数据类型

可选/必选

说明

image_url

dict

必选

包含图片base64编码的字典,键为"url",值为以"img_base64"为变量的字符串,示例:{"url": f"data:image/jpeg;base64,{image_base64}"},其中image_base64为图片base64编码。

长度范围[1, 4 * 1024 * 1024]。

sys_messages

List[dict]

可选

系统消息,列表最大长度为16,列表每个字典长度最大为16,字典key字符串长度最大为“16”,value字符串最大长度为4 * 1024* 1024,默认值为None。

role

str

可选

推理请求消息角色,长度取值[1, 16],默认值为“user”

llm_config

LLMParameterConfig

可选

调用大模型的参数,描述参见LLMParameterConfig类

返回值说明

数据类型

说明

str

VLM对图片内容的描述总结。