类功能
功能描述
连接TEI服务,提供文本相关性计算功能,继承抽象类Reranker。
函数原型
from mx_rag.reranker.service import TEIReranker TEIReranker(url, k, client_param)
输入参数说明
参数名 |
数据类型 |
可选/必选 |
说明 |
---|---|---|---|
url |
str |
必选 |
TEI rerank服务地址,字符串长度范围[1, 128]。 说明:
当前基于TEI框架创建的rerank服务不支持https协议,为安全起见可通过搭建一个nginx服务,使该服务与rerank服务处于一个可信网络。使用时客户端以https方式访问nginx,nginx转发请求到rerank服务。 |
k |
int |
可选 |
精排后返回最相关的k个结果,取值范围[1, 10000],默认值为“1”。 |
client_param |
ClientParam |
可选 |
https客户端配置参数,默认值为“ClientParam()”,具体描述请参见ClientParam类。 |
返回值说明
TEIReranker对象。
调用示例
from paddle.base import libpaddle from mx_rag.reranker.service import TEIReranker from mx_rag.utils import ClientParam # 同LocalReranker(url="https://ip:port/rerank", client_param=ClientParam(xxx)) rerank = TEIReranker.create(url="https://ip:port/rerank", client_param=ClientParam(ca_file="/path/to/ca.crt")) docs = ['我是小红', '我是小明'] scores = rerank.rerank('你好', docs) res = rerank.rerank_top_k(docs, scores) print(res)
父主题: TEIReranker类