昇腾社区首页
中文
注册
开发者
下载

aclnnTriangularSolve

[object Object]undefined

功能说明

  • 算子功能:求解一个具有方形上或下三角形可逆矩阵A和多个右侧b的方程组。
  • 计算公式:AX=bAX = b 其中AA是一个上三角方阵(当upper为false时为下三角方阵),其主对角线不含0的元素。b,Ab,A为二维矩阵或者二维矩阵的batch,当输入为batch时,返回输出的X也为对应的batch。当AA的主对角线含有0,或元素非常接近0,且unitriangular为false时,输出结果可能包含NaNNaN

函数原型

每个算子分为,必须先调用“aclnnTriangularSolveGetWorkspaceSize”接口获取计算所需workspace大小以及包含了算子计算流程的执行器,再调用“aclnnTriangularSolve”接口执行计算。

  • [object Object]
  • [object Object]

aclnnTriangularSolveGetWorkspaceSize

  • 参数说明:

    • self(aclTensor*, 计算输入): 公式中的bb,数据类型支持FLOAT、DOUBLE、COMPLEX64、COMPLEX128, 且数据类型与[object Object]一致,且数据维度至少为2且不大于8。支持支持ND。self[-2]=A[-2]。除最后两个维度之外,A和self的其余维度满足

    • A(aclTensor*, 计算输入): 公式中的AA,数据类型支持FLOAT、DOUBLE、COMPLEX64、COMPLEX128, 且数据类型与[object Object]一致,且数据维度至少为2且不大于8。支持支持ND。最后两个轴相等。除最后两个维度之外,A和self的其余维度满足

    • upper(bool, 计算输入):计算属性,默认为true, [object Object]为上三角方阵,当upper为false时,[object Object]为下三角方阵。

    • transpose(bool, 计算输入):计算属性,默认为false, 当transpose为true时,计算ATX=bA^T X=b

    • unitriangular(bool, 计算输入):计算属性,默认为false,当unitriangular为true时,[object Object]的主对角线元素视为1,而不是从[object Object]引用,并且unitriangular为true时输入[object Object][object Object],输出[object Object][object Object]的数据类型只支持FLOAT。

    • xOut(aclTensor *, 计算输出): 公式中的XX,数据类型支持FLOAT、DOUBLE、COMPLEX64、COMPLEX128,且数据类型与self一致,支持支持ND,且shape需要与broadcast后的[object Object],[object Object]满足AX=bAX=b约束。A和self满足broadcast关系之后的维度,最后一根轴dim=self[-1]。

    • mOut(aclTensor *, 计算输出): broadcast后[object Object]的上三角(下三角)拷贝,数据类型支持FLOAT、DOUBLE、COMPLEX64、COMPLEX128,且数据类型与self一致,支持支持ND。A和self满足broadcast关系之后的维度,最后一根轴dim=A[-1]。

    • workspaceSize(uint64_t *, 出参):返回需要在Device侧申请的workspace大小。

    • executor(aclOpExecutor **, 出参):返回op执行器,包含了算子计算流程。

  • 返回值:

    aclnnStatus:返回状态码,具体参见

    [object Object]

aclnnTriangularSolve

  • 参数说明:

    • workspace(void *, 入参):在Device侧申请的workspace内存地址。

    • workspaceSize(uint64_t, 入参):在Device侧申请的workspace大小,由第一段接口aclnnTriangularSolveGetWorkspaceSize获取。

    • executor(aclOpExecutor *, 入参):op执行器,包含了算子计算流程。

    • stream(aclrtStream, 入参):指定执行任务的Stream。

  • 返回值:

    aclnnStatus:返回状态码,具体参见

约束说明

  • 确定性计算:
    • aclnnTriangularSolve默认确定性实现。

调用示例

示例代码如下,仅供参考,具体编译和执行过程请参考

[object Object]