set_cache_limit
功能描述
设置cache缓存时LLM返回答案的字符数限制。如果LLM返回的字符串超过这个限制，则不会被缓存。
函数原型
@classmethod def set_cache_limit(cls, cache_limit: int)
输入参数说明
参数名 |
数据类型 |
可选/必选 |
说明 |
|---|---|---|---|
cache_limit |
int |
必选 |
每一条被缓存答案的字符数限制，默认值是一百万个字符，取值范围(0, 1000000] |
父主题： MxRAGCache