virtual bool IsEOS() const noexcept
接口功能
判断推理使用的tokennizer是否需要使用eos。
接口格式
virtual bool IsEOS() const noexcept = 0;
接口参数
无
使用样例
无
返回值
tokennizer是否需要使用eos判断结果。
父主题: InferenceResponse
判断推理使用的tokennizer是否需要使用eos。
virtual bool IsEOS() const noexcept = 0;
无
无
tokennizer是否需要使用eos判断结果。