build_inputs接口
接口功能
基于输入的conversations: List[List[Dict[str, str]]],基于模型的tokenizer,提供多轮对话token_id生成和拼接。(继承自GeneratorBackend,属于内部调度接口,暂不支持对外功能)
接口实现
def build_inputs(self, conversations: List[List[Dict[str, str]]], **kwargs): return [self.model_wrapper.make_context(conversation, **kwargs) for conversation in conversations]
参数说明
参数名称 |
是否必选 |
类型 |
默认值 |
描述 |
---|---|---|---|---|
conversations |
是 |
List[List[Dict[str,str]]] |
- |
输入对话的字符串。 |