获取cache tensor。

get_cache_tensors(cache: KvCache, tensor_index: int = 0) -> List[Tensor]

参数名称	数据类型	取值说明
cache	KvCache	要获取的tensor所在的KvCache。
tensor_index	int	要获取的tensor在Cache中的index。

tensors = kv_cache_manager.get_cache_tensors(kv_cache, 0)

正常情况下返回List[Tensor]。

参数错误可能抛出TypeError或ValueError。

执行时间超过sync_kv_timeout配置会抛出LLMException异常。

本接口不支持并发调用。