昇腾社区首页
中文
注册

build_inputs接口

接口功能

基于输入的conversations: List[List[Dict[str, str]]],基于模型的tokenizer,提供多轮对话token_id生成和拼接。(继承自GeneratorBackend,属于内部调度接口,暂不支持对外功能)

接口实现

def build_inputs(self, conversations: List[List[Dict[str, str]]], **kwargs):
        return [self.model_wrapper.make_context(conversation, **kwargs) for conversation in conversations]

参数说明

参数名称

是否必选

类型

默认值

描述

conversations

List[List[Dict[str,str]]]

-

输入对话的字符串。