现在再写 类似 cuda page attention 的算法,cuda 的 simt 架构 是 单指令 多线程的方式,如果遇到 page attention 这种 非连续 多个小空间地址 的 各种 for 循环,if 判断的,程序比较有操作空间,像 昇腾 这种 simd 的,如何 处理非连续 多个小空间地址,如何 做类似 cuda 的 warp shuffle operations 操作,我没发现现成的类似的例子,希望可以给我一点建议 或者 是否有类似 page attention 的例子可以参考,谢谢
ascend c 如何处理非连续 多个小空间地址 的attention 计算
已解决



