昇腾社区首页
中文
注册
开发者
下载

aclnnMultiScaleDeformableAttnFunction

产品支持情况

[object Object]undefined

功能说明

  • 算子功能: 通过采样位置(sample location)、注意力权重(attention weights)、映射后的value特征、多尺度特征起始索引位置、多尺度特征图的空间大小(便于将采样位置由归一化的值变成绝对位置)等参数来遍历不同尺寸特征图的不同采样点。

  • 计算公式:

    将采样点的归一化坐标 (u,v)[0,1](u,v)\in[0,1] 映射到第 \ell 层特征图的像素坐标系:

    x=uW0.5,y=vH0.5x = u \cdot W_\ell - 0.5, \qquad y = v \cdot H_\ell - 0.5

    确定采样点落在哪四个整数网格点之间:

    $$ x_0 = \lfloor x \rfloor,\quad x_1 = x_0 + 1,\qquad y_0 = \lfloor y \rfloor,\quad y_1 = y_0 + 1 $$ 计算采样点相对于左上角网格点的偏移,用于插值权重: $$

    \alpha_x = x - x_0, \qquad \alpha_y = y - y_0 $$

    计算双线性插值权重,四个邻点的和为1

    w00=(1αy)(1αx),w10=(1αy)αx,w01=αy(1αx),w11=αyαx\begin{aligned} w_{00} &= (1-\alpha_y)(1-\alpha_x), \\ w_{10} &= (1-\alpha_y)\alpha_x, \\ w_{01} &= \alpha_y(1-\alpha_x), \\ w_{11} &= \alpha_y\alpha_x \end{aligned}

    计算得到采样点对应的特征向量(长度为 DD):

    $$ \operatorname{bilinear}(V;\,b,h,\ell,x,y) = w_{00} \, V_{b,\ell,y_0,x_0,h,:} + w_{10} \, V_{b,\ell,y_0,x_1,h,:} + w_{01} \, V_{b,\ell,y_1,x_0,h,:} + w_{11} \, V_{b,\ell,y_1,x_1,h,:} $$ 所有层、所有采样点的双线性采样结果,加权求和得到最终输出: $$

    O_{b,q,h,:} = \sum_{\ell=0}^{L-1} \sum_{p=0}^{N_p-1} A_{b,q,h,\ell,p} \cdot \operatorname{bilinear}!\left(V;,b,h,\ell, x_{b,q,h,\ell,p}, y_{b,q,h,\ell,p}\right) $$

函数原型

每个算子分为,必须先调用“aclnnMultiScaleDeformableAttnFunctionGetWorkspaceSize”接口获取计算所需workspace大小以及包含了算子计算流程的执行器,再调用“aclnnMultiScaleDeformableAttnFunction”接口执行计算。

[object Object]
[object Object]

aclnnMultiScaleDeformableAttnFunctionGetWorkspaceSize

  • 参数说明

    [object Object]
    • Atlas推理系列产品:不支持BFLOAT16
  • 返回值

    aclnnStatus:返回状态码,具体参见

    第一段接口完成入参校验,出现以下场景时报错:

    [object Object]

aclnnMultiScaleDeformableAttnFunction

  • 参数说明

    [object Object]
  • 返回值

    aclnnStatus:返回状态码,具体参见

约束说明

  • 确定性计算:

    • aclnnMultiScaleDeformableAttnFunction默认确定性实现。
  • [object Object]Atlas 推理系列产品[object Object]:

    • 通道数channels%32 = 0,且channels <= 256
    • 查询的数量32 <= num_queries< 500000
    • 特征图的数量num_levels <= 16
    • 头的数量num_heads = [2, 4, 8]
    • 采样点的数量num_points = [4, 8]
  • [object Object]Atlas A2 训练系列产品/Atlas A2 推理系列产品[object Object]、[object Object]Atlas A3 训练系列产品/Atlas A3 推理系列产品[object Object]:

    • 通道数channels%8 = 0,且channels <= 256
    • 查询的数量32 <= num_queries < 500000
    • 特征图的数量num_levels <= 16
    • 头的数量num_heads <= 16
    • 采样点的数量num_points <= 16

调用示例

示例代码如下,仅供参考,具体编译和执行过程请参考

[object Object]