API功能:针对单输入
[object Object]进行旋转位置编码。计算公式:
其中:RotateHalf(q)表示将q的D维后半部分元素移至前半部分并乘以-1,后半部分用前半部分的值。
[object Object]
- x (
[object Object]):表示待处理张量。要求为4维张量,shape为(B, N, S, D),数据类型支持[object Object]、[object Object],数据格式为,不支持非连续的Tensor。 - cos (
[object Object]):表示RoPE旋转位置编码的余弦分量。要求为4维张量,shape为(B, N, S, D),S可以为1或与[object Object]的S相同,数据类型、数据格式与[object Object]一致,不支持非连续的Tensor。 - sin (
[object Object]):表示RoPE旋转位置编码的正弦分量。shape、数据类型、数据格式需要与[object Object]保持一致,不支持非连续的Tensor。
[object Object]
表示旋转编码后的结果。shape、数据类型、数据格式与输入[object Object]保持一致,不支持非连续的Tensor。
- 该接口支持推理场景下使用。
- 该接口支持图模式。
- 输入
[object Object]、[object Object]、[object Object]的D维度均必须等于64。 [object Object]、[object Object]的N维度必须等于1。
单算子模式调用
[object Object]图模式调用
[object Object]