IsEOS接口

接口功能

判断推理使用的tokenizer是否需要使用eos。

接口格式

virtual bool IsEOS() const noexcept = 0;

接口参数

无。

使用样例

判断返回响应是否为eos。

1

bool eos = response->IsEOS();

返回值

tokenizer是否需要使用eos判断结果。