开发者
资源
[object Object][object Object][object Object]undefined
[object Object]
  • API功能:针对单输入[object Object]进行旋转位置编码。

  • 计算公式:

    其中:RotateHalf(q)表示将q的D维后半部分元素移至前半部分并乘以-1,后半部分用前半部分的值。

[object Object]
[object Object]
[object Object]
  • x ([object Object]):表示待处理张量。要求为4维张量,shape为(B, N, S, D),数据类型支持[object Object][object Object],数据格式为NDND,不支持非连续的Tensor。
  • cos ([object Object]):表示RoPE旋转位置编码的余弦分量。要求为4维张量,shape为(B, N, S, D),S可以为1或与[object Object]的S相同,数据类型、数据格式与[object Object]一致,不支持非连续的Tensor。
  • sin ([object Object]):表示RoPE旋转位置编码的正弦分量。shape、数据类型、数据格式需要与[object Object]保持一致,不支持非连续的Tensor。
[object Object]

[object Object]

表示旋转编码后的结果。shape、数据类型、数据格式与输入[object Object]保持一致,不支持非连续的Tensor。

[object Object]
  • 该接口支持推理场景下使用。
  • 该接口支持图模式。
  • 输入[object Object][object Object][object Object]的D维度均必须等于64。
  • [object Object][object Object]的N维度必须等于1。
[object Object]
  • 单算子模式调用

    [object Object]
  • 图模式调用

    [object Object]