一种在深度学习下支持训练集成员隐私保护的方法

摘要

本发明公开了一种在深度学习下支持训练集成员隐私保护的方法，属于深度学习隐私保护技术领域。本发明基于数据混合技术方法的处理机制，采用增强混淆训练混合了训练数据样本与多元随机化设置，并在记忆训练过程中设置了一个额外的混合项，即记忆残留项，并扩大记忆残留项以增强对成员推理攻击的防御能力。通过该混合操作可以防止分类器记住样本数据，因此可以有效地抵抗成员推理攻击。本发明可以阻止模型与它的训练数据过度拟合，提高了目标模型的鲁棒性；且本发明不需要攻击者的先验知识，与现有技术相比，消耗的额外计算资源少；能有效抵御基于模型和度量攻击的成员推理攻击。