query
功能描述
提供给用户查询缓存的接口,当缓存无法查询时,会访问大模型。
函数原型
def query(text, *args, **kwargs) -> Union[Dict, Iterator[Dict]]
输入参数说明
参数名 |
数据类型 |
可选/必选 |
说明 |
---|---|---|---|
text |
str |
必选 |
用户的原始问题,字符数范围(0, 128M] |
llm_config |
LLMParameterConfig |
可选 |
大模型参数,具体介绍可参见LLMParameterConfig类。 |
*args/**kwargs |
Any |
可选 |
继承父类方法签名,RAG SDK不涉及使用。 |
父主题: CacheChainChat