分布式系统中作业资源分配方法、装置及设备

摘要

本申请公开了一种用于分布式系统中作业资源分配方法，所述方法包括：确定分布式系统中有依赖关系的数据集合；针对任一所述数据集合，根据数据间依赖关系的大小，将所述数据进行聚类，生成数据子集，并根据作业与数据的依赖关系将作业聚类到相应的数据子集，生成作业及数据子集；确定各作业及数据子集所需计算资源及存储资源；依据各作业及数据子集所需计算资源及存储资源，以及分布式系统的各计算集群可用计算容量和存储容量，为作业及数据子集分配分布式系统的计算集群。采用上述方法，解决现有技术中存在的不能减少除进行源数据迁移的两个计算集群之外的其他计算集群访问这个源数据的流量以及流量优化效果有限的问题。