昇腾社区首页
中文
注册

类功能

功能描述

连接TEI服务,提供文本相关性计算功能,继承抽象类Reranker。

函数原型

from mx_rag.reranker.service import TEIReranker
TEIReranker(url,  k, client_param)

输入参数说明

参数名

数据类型

可选/必选

说明

url

str

必选

TEI rerank服务地址,字符串长度范围[1, 128]。

说明:

当前基于TEI框架创建的rerank服务不支持https协议,为安全起见可通过搭建一个nginx服务,使该服务与rerank服务处于一个可信网络。使用时客户端以https方式访问nginx,nginx转发请求到rerank服务。

k

int

可选

精排后返回最相关的k个结果,取值范围[1, 10000],默认值为“1”

client_param

ClientParam

可选

https客户端配置参数,默认值为“ClientParam()”,具体描述请参见ClientParam类

返回值说明

TEIReranker对象。

调用示例

from paddle.base import libpaddle
from mx_rag.reranker.service import TEIReranker
from mx_rag.utils import ClientParam
# 同LocalReranker(url="https://ip:port/rerank", client_param=ClientParam(xxx))
rerank = TEIReranker.create(url="https://ip:port/rerank",
                            client_param=ClientParam(ca_file="/path/to/ca.crt"))
docs = ['我是小红', '我是小明']
scores = rerank.rerank('你好', docs)
res = rerank.rerank_top_k(docs, scores)
print(res)