一种联邦学习环境下的跨平台信用评价方法

摘要

本发明涉及计算机相关领域，具体为一种联邦学习环境下的跨平台信用评价方法，本发明通过客户端上传本地模型W

说明书

技术领域

本发明涉及计算机相关领域，具体为一种联邦学习环境下的跨平台信用评价方法。

背景技术

机器学习在人工智能应用领域中迅猛发展，例如计算机视觉、自然语言处理及推荐系统等。这些机器学习技术的成功应用，都是建立在大量数据的基础之上的。然而在实际应用场景中，能够得到的数据往往数据规模较小或是需要行业专家的标注，因此，高质量且大数量的训练数据很难获得。人们在使用一个服务时，所产生的数据将被收集并传输到一个中心点，这个中心点有着能够使用这些大量数据训练机器学习模型的计算集群。然而，随着人工智能应用在各行各业中不断落地，人们对于用户隐私和数据安全的关注度在不断提高，在诸如金融、医疗等一些对用户数据隐私尤为重视的行业领域更是如此。

联邦学习(Federated Learning)用于解决用户隐私和数据安全问题，其旨在建立一个基于分布数据集的联邦学习模型，它被设计为不需要直接数据交换或收集的形式，且允许若干参与方协同训练一个机器学习模型，在保护了用户隐私和数据安全的同时，还能使各方都得到一个比自己训练更好的模型，但是现有的联邦学习方法还存在下述缺点：

1.联邦学习模型训练过程中，各用户本地原始数据并未公开，但其局限性在于，若存在“不诚实”、“诚实且好奇”的服务器或者恶意用户端，用户本地数据信息仍可能从更新后的模型参数中被反推出来，即推理攻击，以及投毒攻击、基于生成式对抗网络(Generative Adversarial Networks,GAN)的攻击等其他多种类型攻击，对联邦学习的隐私安全造成巨大的潜在威胁。

2.联邦学习模型的每一轮训练过程中，中央服务器都需聚合、发送每一个参与方的模型参数。因此，随着参与方数量和迭代轮次的增加，将会导致巨大的通信开销。

发明内容

本发明的目的在于提供一种联邦学习环境下的跨平台信用评价方法，以解决上述背景技术中提出的问题。

为实现上述目的，本发明提供如下技术方案：一种联邦学习环境下的跨平台信用评价方法，包括以下步骤：

步骤S1、客户端从服务器下载全局模型W

步骤S2、客户端k通过本地数据对全局模型W

步骤S3、各方客户端上传本地模型W

步骤S4、中心服务器接收各方数据后进行加权聚合操作，得到全局模型W

步骤S5、对步骤S4的全局模型W

优选的，所述步骤S2中全局模型W

其中，m是参与训练的客户端设备总数，n是所有客户端数据量总和，n

其中，d

优选的，所述步骤S3中在客户端上传本地模型W

设H为本地模型W

H＝{KeyGen,Enc,Dec,Eval}

式中，KeyGen为密匙生成函数，Enc为加密函数，Dec为解密函数，Eval为评估函数，其中同态加密允许在加密内容上进行某些特定的代数运算，如加法和乘法，以加性同态加密为例，其定义如下：

Enc

Dec

式中，pk、sk分别是公钥和私钥，c

优选的，所述步骤S4中心服务器接收各方数据采用联邦平均作为数据聚合，减少通信成本，其中联邦平均是建立在K个用户端参与的基础上，其算法的目标函数定义如下：

式中，P

优选的，所述步骤S4中对接收数据进行加权聚合操作采用大批量随机梯度下降算法，即通过客户端模型训练的损失函数，乘以固定的学习率η，计算出新一轮的权重更新，其中客户端的模型权重更新如下：

第t轮通信中心服务器的模型聚合更新如下：

式中，n

优选的，所述步骤S5中客观赋权法获取指标权重，并通过权重计算全局模型W

步骤a、数据标准化

正向指标：

负向指标：

步骤b、计算指标的变异性V

根据定义，此处用指标的方差来衡量指标的变异性大小。

设：V

步骤c、计算指标的冲突性R

首先计算指标两两之间的相关系数，设：r

将第j个指标和所有m个指标的相关系数加和，得到第j个指标的冲突性R

步骤d、计算指标信息量C

步骤e、指标信息量C

C

步骤f、计算指标权重v

此时v＝(v

步骤g、根据上文计算出的最终组合权重v＝(v

其中为n是所有用户端数据量总和，m是评价指标个数，第i个企业的第j个指标评价数据值为x

与现有技术相比，本发明的有益效果是：本发明通过客户端上传本地模型W

附图说明

图1为本发明的整体结构示意图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

请参阅图1，本发明提供一种技术方案：一种联邦学习环境下的跨平台信用评价方法，包括以下步骤：

步骤S1、客户端从服务器下载全局模型W

步骤S2、客户端k通过本地数据对全局模型W

步骤S3、各方客户端上传本地模型W

步骤S4、中心服务器接收各方数据后进行加权聚合操作，得到全局模型W

步骤S5、对步骤S4的全局模型W

进一步的，所述步骤S2中全局模型W

其中，m是参与训练的客户端设备总数，n是所有客户端数据量总和，n

其中，d

进一步的，所述步骤S3中在客户端上传本地模型W

设H为本地模型W

H＝{KeyGen,Enc,Dec,Eval}

式中，KeyGen为密匙生成函数，Enc为加密函数，Dec为解密函数，Eval为评估函数，其中同态加密允许在加密内容上进行某些特定的代数运算，如加法和乘法，以加性同态加密为例，其定义如下：

Enc

Dec

式中，pk、sk分别是公钥和私钥，c

进一步的，所述步骤S4中心服务器接收各方数据采用联邦平均作为数据聚合，减少通信成本，其中联邦平均是建立在K个用户端参与的基础上，其算法的目标函数定义如下：

式中，P

进一步的，所述步骤S4中对接收数据进行加权聚合操作采用大批量随机梯度下降算法，即通过客户端模型训练的损失函数，乘以固定的学习率η，计算出新一轮的权重更新，其中客户端的模型权重更新如下：

第t轮通信中心服务器的模型聚合更新如下：

式中，n

进一步的，所述步骤S5中客观赋权法获取指标权重，并通过权重计算全局模型W

步骤a、数据标准化

正向指标：

负向指标：

步骤b、计算指标的变异性V

根据定义，此处用指标的方差来衡量指标的变异性大小。

设：V

步骤c、计算指标的冲突性R

首先计算指标两两之间的相关系数，设：r

将第j个指标和所有m个指标的相关系数加和，得到第j个指标的冲突性R

步骤d、计算指标信息量C

步骤e、指标信息量C

C

步骤f、计算指标权重v

此时v＝(v

步骤g、根据上文计算出的最终组合权重v＝(v

其中为n是所有用户端数据量总和，m是评价指标个数，第i个企业的第j个指标评价数据值为x

本发明通过客户端上传本地模型W

尽管已经示出和描述了本发明的实施例，对于本领域的普通技术人员而言，可以理解在不脱离本发明的原理和精神的情况下可以对这些实施例进行多种变化、修改、替换和变型，本发明的范围由所附权利要求及其等同物限定。