LLMModel简介
封装了模型执行的一组操作。仅支持KvCache管理模式。
通过
add_model
创建。
父主题:
LLMModel