推理前准备推理需要的模型相关文件,用户可在TrustAI中,下载cfs_tool_{arch}.zip获取以下所有文件,解压后将4下载的证书解压到job目录,并将目录的权限都修改为700,所有文件的用户修改成容器运行的用户。其中,seccomp_profile.json为系统配置文件,用于添加容器中mount和unshare的调用权限。Crypto_fs为获取组件包获取的压缩包解压后的内容,dec为新创建的解密目录,encrypt为加密本地模型文件步骤中加密的模型文件,ai-tool为获取组件包获取的压缩包解压后的交互式口令加解密工具,cfs.pem、cfs.key、ca.pem均为密钥数据与用户管理步骤中生成的证书,secrets为存放3步骤生成的预共享密钥的文件夹,加粗文件用户需自行准备。
目录结构
├── seccomp_profile.json ├── job │ ├── crypto_fs # crypto_fs文件 │ │ ├── bin │ │ │ └── crypto_fs #crypto_fs二进制文件 │ │ └── lib # crypto_fs #依赖库文件 │ ├── dec │ ├── ai-tool # 交互式口令加解密工具 │ ├── encrypt # 加密的数据集和推理代码,从加密目录拷贝。 │ ├── cfs.pem #用于CFS与KMSAgentTLS双向认证通信的证书文件,用户自行准备。 │ ├── cfs.key #用于CFS与KMSAgentTLS双向认证通信的加密后的私钥文件,用户自行准备。 │ ├── ca.pem #用于CFS与KMSAgentTLS双向认证通信的CA证书文件,用户自行准备。 ├──secrets └── aiguard-preshared-key #预共享密钥文件