算子功能:
计算Sinkhorn距离,可以用于MoE模型中的专家路由。
计算公式:
输入: cost(R, C): 2维成本矩阵 tol: 误差
初始化:
重复执行:
直至:
输出:
每个算子分为,必须先调用“aclnnSinkhornGetWorkspaceSize”接口获取入参并根据计算流程计算所需workspace大小,再调用“aclnnSinkhorn”接口执行计算。
[object Object][object Object]
参数说明:
- cost(aclTensor*,计算输入):表示成本张量,公式中的
[object Object],Device侧的aclTensor。数据类型支持BFLOAT16、FLOAT16、FLOAT。取值需要在[0,1]之间,可以进行归一化处理。 支持ND,输入为二维矩阵且行数不超过10000,列数不超过1024。支持。 - tol (aclScalar*, 入参) :表示计算Sinkhorn的误差,数据类型支持FLOAT。如果传入空指针,则tol取0.0001。
- p(aclTensor*,计算输出):表示最优传输张量,公式中的
[object Object],Device侧的aclTensor。数据类型支持BFLOAT16、FLOAT16、FLOAT。支持ND。shape维度为2。不支持。数据类型和shape与入参[object Object]的数据类型和shape一致。 - workspaceSize(uint64_t*,出参):返回用户需要在Device侧申请的workspace大小。
- executor(aclOpExecutor**,出参):返回op执行器,包含了算子计算流程。
- cost(aclTensor*,计算输入):表示成本张量,公式中的
返回值:
第一段接口完成入参校验,出现以下场景时报错:
[object Object]
- 确定性计算:
- aclnnSinkhorn默认确定性实现。
[object Object]