set_cache_limit

功能描述

设置cache缓存时LLM返回答案的字符数限制。如果LLM返回的字符串超过这个限制，则不会被缓存。

函数原型

@classmethod
def set_cache_limit(cache_limit: int)

输入参数说明