判断推理使用的tokennizer是否需要使用eos。
virtual bool IsEOS() const noexcept = 0;
无。
bool eos = response->IsEOS();
tokennizer是否需要使用eos判断结果。