在 [object Object] 偏移处将源子Tile插入目标Tile。概念上是 [object Object] 的逆操作。
[object Object] 用于:
- Acc → Mat插入(含可选的relu、标量量化或向量量化)
- Acc → Vec插入(含可选的
[object Object]、relu、标量量化或向量量化) (Ascend 950PR/Ascend 950DT) - Vec → Mat插入(ND和NZ布局) (Ascend 950PR/Ascend 950DT)
- Vec → Vec插入(ND和NZ布局) (Ascend 950PR/Ascend 950DT)
- NZ split插入(
[object Object]、[object Object]) (Ascend 950PR/Ascend 950DT)
设 [object Object] 和 [object Object]。对于 [object Object] 和 [object Object]:
同步形式:
[object Object]
[object Object]
[object Object]
声明于 [object Object]:
[object Object]
[object Object]
[object Object]有以下重载族:- 普通插入:
[object Object] - relu形式:
[object Object] - 累加器到向量形式:
[object Object] - 标量量化形式:
[object Object]和[object Object] - 向量量化形式:
[object Object]和[object Object] - NZ split形式 (仅Ascend 950PR/Ascend 950DT/kirin9030/kirinX90):
[object Object]或[object Object]
- 普通插入:
[object Object]取值为[object Object]。[object Object]取值为[object Object]。- 运行时边界:
[object Object]且[object Object]。
- 支持的tile类型对:仅
[object Object]。 - 源布局必须为
[object Object]。 - 目标布局必须为
[object Object],且[object Object]。 [object Object]必须是[object Object]字节的倍数且非零。- 普通 / relu(非量化)支持的dtype对:
[object Object]Acc →[object Object]、[object Object]
- 标量量化 支持的dtype对:
[object Object]Acc →[object Object][object Object]Acc →[object Object]、[object Object]、[object Object]、[object Object]
- 向量量化(
[object Object])支持的dtype对:[object Object]Acc →[object Object]、[object Object][object Object]Acc →[object Object]、[object Object]、[object Object]、[object Object]
- 向量量化要求提供
[object Object]缩放操作数([object Object])。
除了Acc → Mat路径外,Ascend 950PR/Ascend 950DT还支持Acc → Vec、Vec → Vec、Vec → Mat和NZ split路径。
Acc → Mat(
[object Object]):- 源Acc类型必须是
[object Object]或[object Object];源布局必须为[object Object]。 - 目标布局必须为
[object Object](NZ格式)。 - 非量化(普通 / relu)目标类型:
[object Object]Acc →[object Object]、[object Object]、[object Object][object Object]Acc →[object Object]
- 标量量化 目标类型:
[object Object]Acc →[object Object]、[object Object]、[object Object]、[object Object]、[object Object]、[object Object][object Object]Acc →[object Object]、[object Object]、[object Object]、[object Object]
- 向量量化(
[object Object])目标类型:与标量量化相同。
- 源Acc类型必须是
Acc → Vec(
[object Object]):- 源Acc类型必须是
[object Object]或[object Object];源布局必须为[object Object]。 - 非量化(普通 / relu)目标类型:
[object Object]Acc →[object Object]、[object Object]、[object Object][object Object]Acc →[object Object]
- 标量量化 目标类型:
[object Object]Acc →[object Object]、[object Object]、[object Object]、[object Object]、[object Object]、[object Object][object Object]Acc →[object Object]、[object Object]、[object Object]、[object Object]
- 向量量化(
[object Object]/[object Object]含[object Object])目标类型:与标量量化相同。 - 目标布局必须为以下之一:NZ-to-NZ(
[object Object])、NZ-to-ND([object Object])或NZ-to-DN([object Object])。 [object Object]选择[object Object]、[object Object]、[object Object]或[object Object]。- 双目标模式(
[object Object]、[object Object])要求[object Object]且不支持NZ-to-DN路径。 - 对于32位目标类型(
[object Object]/[object Object]),使用[object Object]时切分前的[object Object]必须是[object Object]的整数倍。 - 目标stride必须非零且
[object Object]必须是[object Object]字节的倍数。
- 源Acc类型必须是
Vec → Vec(
[object Object]):[object Object]必须等于[object Object]。- 支持的元素类型:
[object Object]、[object Object]、[object Object]、[object Object]、[object Object]、[object Object]、[object Object]、[object Object]、[object Object]、[object Object]、[object Object]。 - 源和目标布局必须匹配(均ND或均NZ)。
- ND路径:源有效区域必须在目标边界内。分发选择
[object Object](对齐)、[object Object]/[object Object](stride对齐、未对齐validCol)、[object Object]/[object Object](未对齐stride或indexCol)或标量拷贝(1×1元素)。 - NZ路径:源列数不得超目标列数。使用
[object Object]进行分形块[object Object]。
Vec → Mat(
[object Object],UB → L1):[object Object]必须等于[object Object]。- 支持的元素类型:
[object Object]、[object Object]、[object Object]、[object Object]、[object Object]、[object Object]、[object Object]、[object Object]、[object Object]、[object Object]、[object Object]。 - ND路径:源必须为
[object Object];使用[object Object]。每行数据字节数必须与[object Object](32字节)对齐。 - NZ路径:源必须为
[object Object];使用[object Object]进行分形块[object Object]。
NZ Split(
[object Object]/[object Object],仅Ascend 950PR/Ascend 950DT/kirin9030/kirinX90):- 目标必须为
[object Object];源必须为[object Object]。 [object Object]必须等于[object Object]。- 源必须为NZ格式:
[object Object]。 - 支持的元素类型:
[object Object]、[object Object]、[object Object]、[object Object]、[object Object]、[object Object]、[object Object]、[object Object]、[object Object]、[object Object]、[object Object]。 [object Object]对齐到[object Object](16)用于burst计算。- 将
[object Object]的总burst拆分为2或4个子传输,每个处理[object Object]列块。
- 目标必须为
[object Object]
[object Object]
[object Object]
[object Object]
[object Object]