update_cache_after_switch_pd_role接口 接口功能更新NPU上的KV Cache。(属于内部调度接口,暂不支持对外功能。) 接口实现1 2def update_cache_after_switch_pd_role(self): self.cache_pool.allocate_npu_cache() 父主题: generator_torch.py提供Python接口