---
title: 算子上下文
description: "在transformer模型中，矩阵乘被大量使用，其中，将query、key、value分别和权重进行矩阵乘是最典型的使用场景，下图为linear在模型中的位置示意。"
url: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0158.html
sourcePath: /source/zh/canncommercial/900/API/ascendtb/ascendtb_01_0158.html
indexId: bd8ca9da6e495a6464879146c96a0dd4402538549ba6bf98ce08f39b5185a91364
---
# 算子上下文

在transformer模型中，矩阵乘被大量使用，其中，将query、key、value分别和权重进行矩阵乘是最典型的使用场景，下图为linear在模型中的位置示意。

图1 LinearOperation算子上下文