基于本地差分隐私的联邦学习隐私保护方法

摘要

机器学习的发展给人们带来更多便利的同时,也带来了数据隐私泄露的安全风险。传统的机器学习提供的服务已经不能满足隐私保护的需要。联邦学习作为一种分布式机器学习框架,通过将训练数据保存在本地,使众多参与者能够私下地训练联邦模型。联邦学习正在成为解决数据隐私保护的一种有前途的替代方案。虽然联邦学习技术的出现缓解了隐私泄露的威胁,但当客户端上传模型参数以及服务器聚合参数下发时,对手仍然可以从中获取参数,从而发生泄密的风险。为了保护FL中的数据隐私,人们提出了各种隐私保护方法。与需要复杂加密操作的加密方法相比,DP被认为是一种更好的隐私保护方法。在本地训练或全局聚合过程中,参数会受到干扰,从而使攻击者无法获取真实的参数。在各种差分隐私保护方法中,本地差分隐私保护方法在客户端进行隐私保护过程,无需信任服务器即可实现隐私保护。本文提出了一种新颖的联邦学习本地差分隐私机制设计,并对MNIST、Fashion-MNIST和CIFAR-10这三个差分隐私工作中常用的数据集进行了实证评估,结果表明,该方法在实现深度学习性能的同时,还提供了强大的隐私保障。