一种基于生成的衡量联邦学习协议数据安全性的方法

摘要

本发明公开了一种基于生成的衡量联邦学习协议数据安全性的方法，属于联邦学习的隐私安全技术领域。本发明借由辅助数据集和被测联邦学习模型，提前训练生成器；使用该生成器，借由模拟用户产生的梯度，重构用户数据。最终通过计算模拟用户真实数据和借由梯度重构的重构数据之间的相似度，来衡量被测联邦学习模型的安全性。本发明只需对用户梯度进行简单处理，即可送入生成器直接生成用户的重构数据，该生成过程本身耗时极短。而生成器本身在联邦学习一个更新轮次中可以反复使用，做到“训练一次，多次使用”，从而大大降低了梯度泄露的总体时间开销。同时，本发明无需对模型权重进行修改，因而兼顾了隐蔽性。