类功能
功能描述
支持检索并行推理文生文对话Chain。继承了SingleText2TextChain基类,节省检索时延。
函数原型
from mx_rag.chain import ParallelText2TextChain class ParallelText2TextChain(SingleText2TextChain)
参数说明
参数名 |
数据类型 |
可选/必选 |
说明 |
---|---|---|---|
llm |
Text2TextLLM |
必选 |
大模型对象,具体可参见Text2TextLLM类。 |
retriever |
Retriever |
必选 |
Retriever对象,具体可参见Retriever类。 |
reranker |
Reranker |
可选 |
Reranker对象,实现对检索的文档进行精排,默认为“None”,具体可参见Reranker。 |
prompt |
str |
可选 |
添加知识检索内容同时可以添加系统prompt,对大模型进行更精确的控制,默认值是:"根据上述已知信息,简洁和专业地回答用户的问题。如果无法从已知信息中得到答案,请根据自身经验做出回答"。如果用户需要自定义prompt,请参考大模型的提示词工程增加。 长度取值范围:[1, 1024*1024] |
source |
bool |
可选 |
在对话过程中,是否返回检索到的相关文档,Chain返回字典中key值为source_documents,默认为“True”。 |