基于对抗样本的抗成员推理攻击的AI模型隐私保护方法

摘要

本发明公开了一种基于对抗样本的抗成员推理攻击的AI模型隐私保护方法，包括如下步骤：(1)用普通方式训练目标模型；(2)通过与目标模型交互训练的方式得到训练好的成员推理模型；(3)当目标模型接收到输入时，将目标模型输出的预测标签向量和该预测标签向量经过独热编码转换后的独热标签向量输入到训练好的成员推理模型中，再利用成员推理模型的输出使用快速梯度符号法对目标模型输出的预测标签向量进行扰动，构造出针对成员推理模型的对抗样本；(4)目标模型以50％的概率输出对抗样本，否则保持原输出不变。本发明消除了传统防御方式所带来的梯度不稳定、训练时间长、收敛速度慢等问题。