aclnnObfuscationCalculate

产品支持情况

产品	是否支持
[object Object]Atlas A3 训练系列产品/Atlas A3 推理系列产品[object Object]	×
[object Object]Atlas A2 训练系列产品/Atlas 800I A2 推理产品/A200I A2 Box 异构组件[object Object]	√
[object Object]Atlas 200I/500 A2 推理产品[object Object]	×
[object Object]Atlas 推理系列产品 [object Object]	√
[object Object]Atlas 训练系列产品[object Object]	×

功能说明

• 算子功能：将张量x和配置参数（如param、cmd）发送至PMCC混淆引擎。引擎的CA模块调用TA模块，进行张量混淆处理，最终返回shape与x一致的混淆后的张量y。

• 背景：PMCC（Privacy&Model Confidential Computing）模型混淆特性利用CPU核中的TrustZone可信执行环境隔离存储混淆因子、派生混淆掩码、执行动态掩码添加。PMCC基于NPU TrustZone构建了模型混淆引擎CA（普通OS中的Client Application）与模型混淆引擎TA（TEE OS中的Trusted Application）。为了使模型在推理执行过程中能够访问模型混淆引擎TA，通过AICPU算子机制及NPU卡内localhost socket进行中转。

函数原型

每个算子分为undefined，必须先调用 “aclnnObfuscationCalculateGetWorkspaceSize”接口获取计算所需workspace大小以及包含了算子计算流程的执行器，再调用“aclnnObfuscationCalculate”接口执行计算。

• aclnnStatus aclnnObfuscationCalculateGetWorkspaceSize(int32_t fd, const aclTensor* x, int32_t param, int32_t cmd, aclTensor* y, uint64_t* workspaceSize, aclOpExecutor** executor)
• aclnnStatus aclnnObfuscationCalculate(void* workspace, uint64_t workspaceSize, aclOpExecutor* executor, aclrtStream stream)

aclnnObfuscationCalculateGetWorkspaceSize

• 参数说明：

  • fd（int32_t ，计算输入）：socket连接符，数据类型为INT32，填写aclnnObfuscationSetup在资源初始化时输出中的fd[0]。
  • x（aclTensor* ，计算输入）：待混淆处理的张量，Shape为(,,...,hiddenSize)，Shape最后一维的size是aclnnObfuscationSetup在资源初始化时配置的hiddenSize，undefined要求为ND。不支持undefined，不支持空Tensor。
    • [object Object]Atlas 推理系列产品[object Object]：Tensor数据类型支持FLOAT、FLOAT16、INT8。
    • [object Object]Atlas A2 训练系列产品/Atlas 800I A2 推理产品/A200I A2 Box 异构组件[object Object]：Tensor数据类型支持FLOAT、FLOAT16、INT8、BFLOAT16。
  • param（int32_t，计算输入）：预留的参数字段，数据类型为INT32，当前版本仅支持0。
  • cmd（int32_t，计算输入）：混淆算子指令编号，当前版本仅支持1。
  • y（aclTensor*，计算输出）：混淆处理后的张量，数据类型及Shape与x相同，undefined要求为ND。不支持undefined，不支持空Tensor。
  • workspaceSize（uint64_t*，出参）：返回用户需要在Device侧申请的workspace大小。
  • executor（aclOpExecutor**，出参）：返回op执行器，包含了算子计算流程。

• 返回值：

  返回aclnnStatus状态码，具体参见undefined。

  [object Object]

aclnnObfuscationCalculate

• 参数说明：

  • workspace（void*，入参）：在Device侧申请的workspace内存地址。
  • workspaceSize（uint64_t，入参）：在Device侧申请的workspace大小，由第一段接口aclnnObfuscationCalculateGetWorkspaceSize获取。
  • executor（aclOpExecutor*，入参）：op执行器，包含了算子计算流程。
  • stream（aclrtStream，入参）：指定执行任务的Stream。

• 返回值： 返回aclnnStatus状态码，具体参见undefined。

约束说明

该接口与undefined配套使用，完成PMCC模型混淆功能，使用方式如下：

• 首先调用aclnnObfuscationSetup进行资源初始化，可重复调用，以最后一次初始化为准
• 再多次调用aclnnObfuscationCalculate进行张量混淆处理
• 最后调用aclnnObfuscationSetup进行资源释放，只能调用一次；也可不显式进行资源释放，而是通过终止程序进程的方式达到资源释放的目的

调用示例

示例代码如下，仅供参考，具体编译和执行过程请参考undefined。