---
title: mask类型
description: "mask类型不是独立特性，因paged attention算子的mask较为复杂，为便于理解，此处单独针对mask类型进行说明。"
url: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0201.html
sourcePath: /source/zh/canncommercial/900/API/ascendtb/ascendtb_01_0201.html
indexId: 22b8c86446571ff529e0d6bfb5c75b17b776deb2f0128974cd19eefa4e3ac9ad64
---
# mask类型

mask类型不是独立特性，因paged attention算子的mask较为复杂，为便于理解，此处单独针对mask类型进行说明。


| maskType | 硬件类型 | 维度 | 备注 |
| --- | --- | --- | --- |
| UNDEFINED | 不传mask | 不传mask | 相当于一个全零的mask。 |
| MASK\_TYPE\_NORM | Atlas A2 训练系列产品 / Atlas A2 推理系列产品 Atlas A3 推理系列产品 / Atlas A3 训练系列产品 | [batch, 1, max\_seq\_len] 或 [1, max\_seq\_len] 或 [max\_seq\_len, max\_seq\_len] | 倒三角mask。 |
| MASK\_TYPE\_NORM | Atlas 推理系列产品 | [batch, max\_seq\_len / 16, 16, 16] 或 [1, max\_seq\_len / 16, 16, 16] | 倒三角mask。 |
| MASK\_TYPE\_ALIBI | Atlas A2 训练系列产品 / Atlas A2 推理系列产品 Atlas A3 推理系列产品 / Atlas A3 训练系列产品 | [batch, num\_head, 1, max\_seq\_len] 或 [num\_head, 1, max\_seq\_len] | alibi mask。 |
| MASK\_TYPE\_ALIBI | Atlas 推理系列产品 | [batch \* num\_head, max\_seq\_len / 16, 16, 16] 或 [num\_head, max\_seq\_len / 16, 16, 16] | alibi mask。 |
| MASK\_TYPE\_SPEC | Atlas A2 训练系列产品 / Atlas A2 推理系列产品 Atlas A3 推理系列产品 / Atlas A3 训练系列产品 | [num\_tokens, max\_seq\_len] | 并行解码mask。 |
| MASK\_TYPE\_SPEC | Atlas 推理系列产品 | [1, max\_seq\_len / 16, num\_tokens, 16] | 并行解码mask。 |
| MASK\_TYPE\_MASK\_FREE | Atlas 推理系列产品 | [1, 8, 128, 16] | 固定为128\*128的倒三角mask。 |


上表中 Atlas 推理系列产品 上max_seq_len应16对齐，且维度描述中的除法均为ceil div。