一种用于在集群环境下进行机器学习的训练方法和系统

摘要

本发明提供一种用于在集群环境下进行机器学习的训练方法，包括：1)根据集群环境中计算节点的数量，将训练集中的数据分割为用于供各个计算节点并行地执行训练操作的多个部分；2)利用集群环境中的各个计算节点对所分配的数据集的部分进行训练，使得各个计算节点并行地训练一个机器学习模型；3)对各个计算节点的处理结果进行加权平均，所述计算节点中的每一个的权重被设置为，使得对于所述集群环境中的各个节点的方差和/或均值的衰减速度一致或彼此接近。