昇腾社区首页
中文
注册
开发者
下载
支持
积分兑换 NEW

aclnnObfuscationSetupV2

产品支持情况

产品 是否支持
[object Object]Atlas A3 训练系列产品/Atlas A3 推理系列产品[object Object] ×
[object Object]Atlas A2 训练系列产品/Atlas 800I A2 推理产品/A200I A2 Box 异构组件[object Object] √
[object Object]Atlas 200I/500 A2 推理产品[object Object] ×
[object Object]Atlas 推理系列产品 [object Object] √
[object Object]Atlas 训练系列产品[object Object] ×

功能说明

  • 算子功能：完成PMCC模型混淆引擎的资源初始化和释放。

    • 资源初始化：与PMCC混淆引擎CA建立socket连接、对CA、TA进行初始化，并返回socket连接符。
    • 资源释放：与PMCC混淆引擎CA断开socket连接。

  • 背景：PMCC（Privacy&Model Confidential Computing）模型混淆特性利用CPU核中的TrustZone可信执行环境隔离存储混淆因子、派生混淆掩码、执行动态掩码添加。PMCC基于NPU TrustZone构建了模型混淆引擎CA（普通OS中的Client Application）与模型混淆引擎TA（TEE OS中的Trusted Application）。为了使模型在推理执行过程中能够访问模型混淆引擎TA，通过AICPU算子机制及NPU卡内localhost socket进行中转。本次接口新增obfCoefficient，本参数为DeepSeek满血版本中，为了保证模型混淆性能满足要求，增加混淆系数，对输入数据按照混淆系数比例进行处理。

函数原型

每个算子分为undefined，必须先调用 “aclnnObfuscationSetupV2GetWorkspaceSize”接口获取计算所需workspace大小以及包含了算子计算流程的执行器，再调用“aclnnObfuscationSetupV2”接口执行计算。

  • aclnnStatus aclnnObfuscationSetupV2GetWorkspaceSize(int32_t fdToClose, int32_t dataType, int32_t hiddenSize, int32_t tpRank, int32_t modelObfSeedId, int32_t dataObfSeedId, int32_t cmd, int32_t threadNum, float obfCoefficient, aclTensor* fd, uint64_t* workspaceSize, aclOpExecutor** executor)
  • aclnnStatus aclnnObfuscationSetupV2(void* workspace, uint64_t workspaceSize, aclOpExecutor* executor, aclrtStream stream)

aclnnObfuscationSetupV2GetWorkspaceSize

  • 参数说明：

    • fdToClose（int32_t，计算输入）：待关闭的socket连接符，数据类型为INT32，cmd为3时填写本算子在cmd为1时返回的fd，否则填0。
    • dataType（int32_t，计算输入）：代表Tensor数据类型的编号，数据类型为INT32，仅在cmd设置为1或2时需要填写有效值，否则填0。
      • [object Object]Atlas 推理系列产品[object Object]：在{0, 1}中选择，0表示FLOAT、1表示FLOAT16
      • [object Object]Atlas A2 训练系列产品/Atlas 800I A2 推理产品/A200I A2 Box 异构组件[object Object]：在{0, 1, 2, 27}中选择，0表示FLOAT、1表示FLOAT16、2表示INT8、27表示BF16
    • hiddenSize（int32_t，计算输入）：隐藏层维度，数据类型为INT32，支持1-10000，仅在cmd设置为1或2时需要填写有效值，否则填0。
    • tpRank（int32_t，计算输入）：TP Rank，数据类型为INT32，支持0-1024，仅在cmd设置为1或2时需要填写有效值，否则填0。
    • modelObfSeedId（int32_t，计算输入）：模型混淆因子id，用于TA从TEE KMC查询模型混淆因子，数据类型为INT32，仅在cmd设置为1或2时需要填写有效值，否则填0。
    • dataObfSeedId（int32_t，计算输入）：数据混淆因子id，用于TA从TEE KMC查询数据混淆因子，数据类型为INT32，仅在cmd设置为1或2时需要填写有效值，否则填0。
    • cmd（int32_t，计算输入）：setup指令编号，在{1, 2, 16}中选择，设置为1时进行普通模式资源初始化、为2时进行高精度模式资源初始化，设置为16时进行资源释放。
    • threadNum（int32_t，计算输入）：CA/TA进行混淆处理使用的线程数。在{1, 2, 3, 4, 5, 6}中选择，仅在cmd设置为1或2时需要填写有效值，否则填0。
    • obfCoefficient（float，计算输入）：进行混淆处理使用的混淆系数。取值范围(0.0， 1.0]，仅在cmd设置为1或2时需要填写有效值，否则填0.0。
    • fd（aclTensor*，计算输出）：socket连接符，数据类型为INT32，1D，shape为1维，undefined要求为ND。不支持undefined，不支持空Tensor。
    • workspaceSize（uint64_t*，出参）：返回用户需要在Device侧申请的workspace大小。
    • executor（aclOpExecutor**，出参）：返回op执行器，包含了算子计算流程。

  • 返回值：

    返回aclnnStatus状态码，具体参见undefined。

    [object Object]

aclnnObfuscationSetupV2

  • 参数说明：

    • workspace（void*，入参）：在Device侧申请的workspace内存地址。
    • workspaceSize（uint64_t，入参）：在Device侧申请的workspace大小，由第一段接口aclnnObfuscationSetupV2GetWorkspaceSize获取。
    • executor（aclOpExecutor*，入参）：op执行器，包含了算子计算流程。
    • stream（aclrtStream，入参）：指定执行任务的Stream。

  • 返回值： 返回aclnnStatus状态码，具体参见undefined。

约束说明

该接口与undefined配套使用，完成PMCC模型混淆功能，使用方式如下：

  • 首先调用aclnnObfuscationSetupV2进行资源初始化，可重复调用，以最后一次初始化为准
  • 再多次调用aclnnObfuscationCalculateV2进行张量混淆处理
  • 最后调用aclnnObfuscationSetupV2进行资源释放，只能调用一次；也可不显式进行资源释放，而是通过终止程序进程的方式达到资源释放的目的

调用示例

示例代码如下，仅供参考，具体编译和执行过程请参考undefined。

[object Object]