昇腾社区首页
中文
注册

类功能

功能描述

支持检索并行推理文生文对话Chain。继承了SingleText2TextChain基类,节省检索时延。

函数原型

from mx_rag.chain import ParallelText2TextChain
class ParallelText2TextChain(SingleText2TextChain)

参数说明

参数名

数据类型

可选/必选

说明

llm

Text2TextLLM

必选

大模型对象,具体可参见Text2TextLLM类

retriever

Retriever

必选

Retriever对象,具体可参见Retriever类

reranker

Reranker

可选

Reranker对象,实现对检索的文档进行精排,默认为“None”,具体可参见Reranker

prompt

str

可选

添加知识检索内容同时可以添加系统prompt,对大模型进行更精确的控制,默认值是:"根据上述已知信息,简洁和专业地回答用户的问题。如果无法从已知信息中得到答案,请根据自身经验做出回答"。如果用户需要自定义prompt,请参考大模型的提示词工程增加。

长度取值范围:[1, 1024*1024]

source

bool

可选

在对话过程中,是否返回检索到的相关文档,Chain返回字典中key值为source_documents,默认为“True”