aclnnRmsNormGrad
支持的产品型号
- Atlas A2训练系列产品。
接口原型
每个算子分为两段式接口,必须先调用“aclnnRmsNormGradGetWorkspaceSize”接口获取计算所需workspace大小以及包含了算子计算流程的执行器,再调用“aclnnRmsNormGrad”接口执行计算。
aclnnStatus aclnnRmsNormGradGetWorkspaceSize( const aclTensor *dy, const aclTensor *x, const aclTensor *rstd, const aclTensor *gamma, const aclTensor *dxOut, const aclTensor *dgammaOut, uint64_t *workspaceSize, aclOpExecutor **executor)
aclnnStatus aclnnRmsNormGrad( void *workspace, uint64_t workspaceSize, aclOpExecutor *executor, const aclrtStream stream)
功能描述
算子功能:
aclnnRmsNorm
的反向计算。算子公式:
- 正向公式:
- 反向推导:
aclnnRmsNormGradGetWorkspaceSize
参数说明:
- dy(aclTensor*,计算输入, 表示反向传回的梯度): 数据类型支持FLOAT、FLOAT16、BF_16、shape支持2-8维度,数据格式支持ND
- x(aclTensor*,计算输入, 正向算子的输入,表示被标准化的数据): 数据类型支持FLOAT、FLOAT16、BF_16、shape支持2-8维度,数据格式支持ND
- rstd(aclTensor*,计算输入, 正向算子的中间计算结果): 数据类型支持FLOAT、shape支持2-8维度,数据格式支持ND
- gamma(aclTensor*,计算输入, 正向算子的输入,计算入参): 数据类型支持FLOAT、FLOAT16、BF_16、shape支持2-8维度,数据格式支持ND
- dxOut(aclTensor*,计算输出, 表示输入x的梯度): 数据类型支持FLOAT、FLOAT16、BF_16、shape支持2-8维度,数据格式支持ND
- dgammaOut(aclTensor*,计算输出, 表示gamma的梯度): 数据类型支持FLOAT、shape支持2-8维度,数据格式支持ND
- workspaceSize(uint64_t*,出参):返回用户需要在npu device侧申请的workspace大小。
- executor(aclOpExecutor**,出参):返回op执行器,包含了算子计算流程。
返回值:
aclnnStatus:返回状态码。
说明: 第一段接口完成入参校验,出现以下场景时报错:
- 161001 (ACLNN_ERR_PARAM_NULLPTR):如果传入参数是必选输入,输出或者必选属性,且是空指针,则返回161001。
aclnnRmsNormGrad
参数说明:
- workspace(void*, 入参):在npu device侧申请的workspace内存地址。
- workspaceSize(uint64_t, 入参):在npu device侧申请的workspace大小,由第一段接口aclnnRmsNormGradGetWorkspaceSize获取。
- executor(aclOpExecutor*, 入参):op执行器,包含了算子计算流程。
- stream(aclrtStream, 入参):acl stream流。
返回值:
约束与限制
- 功能维度
- 数据类型支持
- dy、x、gamma支持:FLOAT32、FLOAT16、BFLOAT16。
- rstd支持:FLOAT32。
- 数据格式支持:ND。
- 数据类型支持
- 未支持类型说明
- DOUBLE:指令不支持DOUBLE。
- 是否支持空tensor:不支持空进空出。
- 是否非连续tensor:不支持输入非连续,不支持数据非连续。
- 边界值场景说明
- 当输入是inf时,输出为inf。
- 当输入是nan时,输出为nan。
调用示例
[object Object]