章节介绍

缓存类型分为memory cache（hash map + 精确匹配）和similarity cache（向量数据库 + embedding + 相似度计算），其中memory cache用于用户问题完全匹配场景，similarity cache用于用户问题不完全一样，但是比较相似的场景。在实际使用的过程中，也可以将Cache进行串联。