在不平衡数据中进行高效通信的联邦学习

摘要

联邦学习(FL)是一种分布式的机器学习方法,它通过中心服务器汇总各个移动终端在本地训练的机器学习模型,使得多个参与方能够协作进行高效率的机器学习.同时,FL不需要将终端的私人数据发送至中心服务器,从而保护了数据隐私.但是与普通的训练数据集不同,终端系统中的数据分布不平衡,这将导致FL的通信效率下降.针对该问题,提出了一种基于数据分布加权聚合的FL算法.通过计算参与方的本地数据集与平衡数据集之间的海林格距离对本地数据集的平衡程度进行了量化,并据此调整了参与方在聚合时的权重,以减少算法收敛或达到目标准确率所需的通信回合.提出的算法利用公开数据集进行了仿真实验.实验结果表明,其与最新的算法联邦平均相比,通信成本降低了14.6％以上,有效提升了数据不平衡时FL的通信效率.