aclnnObfuscationCalculateV2
产品支持情况
产品 | 是否支持 |
---|---|
[object Object]Atlas A3 训练系列产品/Atlas A3 推理系列产品[object Object] | × |
[object Object]Atlas A2 训练系列产品/Atlas 800I A2 推理产品/A200I A2 Box 异构组件[object Object] | √ |
[object Object]Atlas 200I/500 A2 推理产品[object Object] | × |
[object Object]Atlas 推理系列产品 [object Object] | √ |
[object Object]Atlas 训练系列产品[object Object] | × |
功能说明
算子功能:将张量x和配置参数(如param、cmd)发送至PMCC混淆引擎。引擎的CA模块调用TA模块,进行张量混淆处理,最终返回shape与x一致的混淆后的张量y。
背景:PMCC(Privacy&Model Confidential Computing)模型混淆特性利用CPU核中的TrustZone可信执行环境隔离存储混淆因子、派生混淆掩码、执行动态掩码添加。PMCC基于NPU TrustZone构建了模型混淆引擎CA(普通OS中的Client Application)与模型混淆引擎TA(TEE OS中的Trusted Application)。为了使模型在推理执行过程中能够访问模型混淆引擎TA,通过AICPU算子机制及NPU卡内localhost socket进行中转。本次接口新增obfCoefficient,本参数为DeepSeek满血版本中,为了保证模型混淆性能满足要求,增加混淆系数,对输入数据按照混淆系数比例进行处理。
函数原型
每个算子分为undefined,必须先调用 “aclnnObfuscationCalculateV2GetWorkspaceSize”接口获取计算所需workspace大小以及包含了算子计算流程的执行器,再调用“aclnnObfuscationCalculateV2”接口执行计算。
aclnnStatus aclnnObfuscationCalculateV2GetWorkspaceSize(int32_t fd, const aclTensor* x, int32_t param, int32_t cmd, float obfCoefficient, aclTensor* y, uint64_t* workspaceSize, aclOpExecutor** executor)
aclnnStatus aclnnObfuscationCalculateV2(void* workspace, uint64_t workspaceSize, aclOpExecutor* executor, aclrtStream stream)
aclnnObfuscationCalculateV2GetWorkspaceSize
参数说明:
- fd(int32_t ,计算输入):socket连接符,数据类型为INT32,填写aclnnObfuscationSetupV2在资源初始化时输出中的fd[0]。
- x(aclTensor* ,计算输入):待混淆处理的张量,Shape为(,,...,hiddenSize),最后一维的size是aclnnObfuscationSetupV2在资源初始化时配置的hiddenSize,undefined要求为ND。不支持undefined,不支持空Tensor。
- [object Object]Atlas 推理系列产品[object Object]:Tensor数据类型支持FLOAT、FLOAT16、INT8。
- [object Object]Atlas A2 训练系列产品/Atlas 800I A2 推理产品/A200I A2 Box 异构组件[object Object]:Tensor数据类型支持FLOAT、FLOAT16、INT8、BFLOAT16。
- param(int32_t,计算输入):预留的参数字段,数据类型为INT32,当前版本仅支持0。
- cmd(int32_t,计算输入):混淆算子指令编号,当前版本仅支持1。
- obfCoefficient(float,计算输入):进行混淆处理使用的混淆系数。取值范围(0.0, 1.0]。
- y(aclTensor*,计算输出):混淆处理后的张量,数据类型及Shape与x相同,undefined要求为ND。不支持undefined,不支持空Tensor。
- workspaceSize(uint64_t*,出参):返回用户需要在Device侧申请的workspace大小。
- executor(aclOpExecutor**,出参):返回op执行器,包含了算子计算流程。
返回值:
返回aclnnStatus状态码,具体参见undefined。
[object Object]
aclnnObfuscationCalculateV2
参数说明:
- workspace(void*,入参):在Device侧申请的workspace内存地址。
- workspaceSize(uint64_t,入参):在Device侧申请的workspace大小,由第一段接口aclnnObfuscationCalculateV2GetWorkspaceSize获取。
- executor(aclOpExecutor*,入参):op执行器,包含了算子计算流程。
- stream(aclrtStream,入参):指定执行任务的Stream。
返回值: 返回aclnnStatus状态码,具体参见undefined。
约束说明
该接口与undefined配套使用,完成PMCC模型混淆功能,使用方式如下:
- 首先调用aclnnObfuscationSetupV2进行资源初始化,可重复调用,以最后一次初始化为准
- 再多次调用aclnnObfuscationCalculateV2进行张量混淆处理
- 最后调用aclnnObfuscationSetupV2进行资源释放,只能调用一次;也可不显式进行资源释放,而是通过终止程序进程的方式达到资源释放的目的
调用示例
示例代码如下,仅供参考,具体编译和执行过程请参考undefined。
[object Object]