接口功能:完成PMCC模型混淆引擎的资源初始化和释放。
- 资源初始化:与PMCC混淆引擎CA建立socket连接、对CA、TA进行初始化,并返回socket连接符。
- 资源释放:与PMCC混淆引擎CA断开socket连接。
背景:PMCC(Privacy&Model Confidential Computing)模型混淆特性利用CPU核中的TrustZone可信执行环境隔离存储混淆因子、派生混淆掩码、执行动态掩码添加。PMCC基于NPU TrustZone构建了模型混淆引擎CA(普通OS中的Client Application)与模型混淆引擎TA(TEE OS中的Trusted Application)。为了使模型在推理执行过程中能够访问模型混淆引擎TA,通过AICPU算子机制及NPU卡内localhost socket进行中转。本次接口新增obfCoefficient,本参数为DeepSeek满血版本中,为了保证模型混淆性能满足要求,增加混淆系数,对输入数据按照混淆系数比例进行处理。
每个算子分为,必须先调用 “aclnnObfuscationSetupV2GetWorkspaceSize”接口获取计算所需workspace大小以及包含了算子计算流程的执行器,再调用“aclnnObfuscationSetupV2”接口执行计算。
[object Object]
[object Object]
确定性计算:
- aclnnObfuscationSetupV2默认确定性实现。
-
- 首先调用aclnnObfuscationSetupV2进行资源初始化,可重复调用,以最后一次初始化为准
- 再多次调用aclnnObfuscationCalculateV2进行张量混淆处理
- 最后调用aclnnObfuscationSetupV2进行资源释放,只能调用一次;也可不显式进行资源释放,而是通过终止程序进程的方式达到资源释放的目的
[object Object]