基于合作博弈和知识蒸馏的个性化联邦学习方法

摘要

本发明公开了基于合作博弈和知识蒸馏的个性化联邦学习方法，基于联邦学习中嵌入合作博弈和知识蒸馏思想，提出了pFedCg算法，使参与训练的用户都能得到一个更优的个性化模型；采用公共数据集和隐私数据集提高了客户端泛化能力，并将合作博弈论中的SV引入PFL，来评估FL中每个客户对其他客户端的个性化学习过程的累计贡献值，以此确定每个客户端的局部软预测的聚合系数，最后利用KD将聚合的个性化软预测的知识迁移到本地模型，并在本地的隐私数据集上进行个性化训练，提高个性化精度，使每个客户端获得更优的个性化模型。解决在FL中客户端数据异构时收敛速度慢，模型异构时无法训练的问题，并提高训练精度。