昇腾社区首页
中文
注册

query

功能描述

提供给用户查询缓存的接口,当缓存无法查询时,会访问大模型。

函数原型

def query(text, *args, **kwargs) -> Union[Dict, Iterator[Dict]]

输入参数说明

参数名

数据类型

可选/必选

说明

text

str

必选

用户的原始问题,字符数范围(0, 128M]

llm_config

LLMParameterConfig

可选

大模型参数,具体介绍可参见LLMParameterConfig类

*args/**kwargs

Any

可选

继承父类方法签名,RAG SDK不涉及使用。