---
title: 计算公式
description: "beta在rmsnorm quant量化场景下会使用。"
url: https://www.hiascend.com/document/detail/zh/canncommercial/latest/API/ascendtb/ascendtb_01_0247.html
sourcePath: /source/zh/canncommercial/900/API/ascendtb/ascendtb_01_0247.html
indexId: 24901c550eaedefbf950b4ccaf3a032b4e5cee877bf3afe092307e86fd96678564
---
# 计算公式

#### RmsNorm


beta在rmsnorm quant量化场景下会使用。


#### add+RmsNorm(PreNorm, PostNorm)


其中gamma为可训练参数，epsilon是一个取值范围为(0, 1]的浮点值，用于避免除以零。


#### 量化
