【背景】

在Mindformers dev分支以及Mindspore 2.2.11里面发现已经有PagedAttention相关代码及接口，但是Mindformers文档和Mindspore文档要滞后一些，尚未说明支持PagedAttention。

Mindformers dev分支包含PagedAttention参数的文件：

https://gitee.com/mindspore/mindformers/blob/dev/mindformers/inference/infer_config.py

Mindspore 2.2.11中PagedAttention定义位置：

https://gitee.com/mindspore/mindspore/blob/v2.2.11/mindspore/python/mindspore/ops/operations/nn_ops.py

【问题】

1. 昇腾硬件上PagedAttention是已经基本实现了，在Mindformers Inference中可用了，还是刚定义了接口？

2. 如果昇腾硬件上PagedAttention已经实现了，Mindformers Inference推理llama2现在支持PagedAttention吗？

【说明】

这里Mindformers Inference指的是使用Mindspore Lite后端的Mindformers推理方案：

https://mindformers.readthedocs.io/zh-cn/latest/docs/feature_cards/Inference.html