昇腾社区首页
中文
注册
开发者
下载

query

功能描述

提供给用户查询缓存的接口,当缓存无法查询时,会访问大模型。

函数原型

def query(text, *args, **kwargs) -> Union[Dict, Iterator[Dict]]

输入参数说明

参数名

数据类型

可选/必选

说明

text

str

必选

用户的原始问题,字符数范围(0, 128M]

llm_config

LLMParameterConfig

可选

大模型参数,具体介绍可参见LLMParameterConfig

*args/**kwargs

Any

可选

继承父类方法签名,RAG SDK不涉及使用。

返回值说明

数据类型

说明

Union[Dict, Iterator[Dict]]

返回问答结果,其中Dict内容为:

  • 带知识来源:{"query": query, "result": data, "source_documents": [{'metadata': xxx, 'page_content': xxx}]}
  • 不带知识来源:{"query": query, "result": data}